Num momento em que assistimos à crescente popularidade de assistentes de programação baseados em inteligência artificial, uma tarefa de desenvolvimento que deveria ter “libertado as mãos” dos programadores quase custou caro a uma empresa. Recentemente, segundo relatórios da imprensa estrangeira, um engenheiro da empresa de consultoria em desenvolvimento de software Softjourn, ao usar um agente de inteligência artificial para recomendar um pacote de software que “soava muito fiável”, recebeu um nome que era extremamente semelhante ao de bibliotecas comuns. Se não fosse por uma regra rígida e discreta da empresa, este pacote de malware poderia já ter invadido os seus sistemas.
De acordo com informações, o engenheiro da Softjourn, em uma atividade de negócios, solicitou ao agente de inteligência artificial que recomendasse um pacote de software para tarefas comuns. O agente de inteligência artificial rapidamente forneceu um nome. Em muitas organizações, os desenvolvedores adotariam diretamente a sugestão e procederiam à instalação. No entanto, a Softjourn tem uma regra que é rigorosamente aplicada: qualquer sugestão de software feita por inteligência artificial deve ser verificada em duplicado para garantir a sua legalidade. O engenheiro seguiu este processo, verificando parte do código fonte do pacote no GitHub, e logo encontrou indícios suspeitos — o pacote tinha um número muito baixo de downloads e o repositório tinha sido criado há poucos dias.
Modelos de inteligência artificial podem levar a riscos de ataques à cadeia de suprimentos
Isto não é um erro ocasional dos modelos de inteligência artificial, mas sim um novo tipo de ataque à cadeia de suprimentos denominado “slopsquatting” (ou “ocupação de nomes de pacotes ilusórios de IA”). Os modelos de inteligência artificial às vezes “iludem-se” criando nomes de pacotes que parecem razoáveis, mas que na verdade não existem. Os atacantes já notaram este padrão e antecipadamente registraram esses nomes de pacotes fabricados pela inteligência artificial, carregando código malicioso e aguardando que os desenvolvedores mordessem a isca. Sergiy Fitsak, diretor-geral da Softjourn, advertiu que os atacantes apostam que “os desenvolvedores, sob pressão de prazos, irão instalar primeiro e verificar depois”.
A Softjourn conseguiu evitar este risco, mas Fitsak enfatizou: “O que nos permitiu descobrir isso foi o fato de já termos o hábito de verificar o número de downloads e revisar o código fonte no GitHub, mesmo que a recomendação da inteligência artificial fosse apenas um pacote que parecia muito comum”.