Hackers usam IA para montar botnets gigantes

Pesquisadores de segurança cibernética identificaram uma nova e perigosa técnica de ataque chamada 'HalluSquatting', que explora uma fraqueza fundamental dos grandes modelos de linguagem (LLMs): a incapacidade de admitir incerteza. O método permite que hackers usem nove ferramentas populares de IA para montar botnets massivos, representando uma ameaça significativa à infraestrutura global da internet. O HalluSquatting se aproveita da tendência dos LLMs de gerar informações que parecem plausíveis, mas são incorretas — um fenômeno conhecido como 'alucinação'. Os atacantes criam prompts que deliberadamente provocam essas alucinações, fazendo com que os sistemas de IA gerem códigos, comandos ou configurações que, sem saber, contribuem para operações de botnets. Por exemplo, quando solicitado a sugerir endereços IP de servidores para uma rede distribuída, um LLM pode inventar endereços com aparência válida que os atacantes podem usar para coordenar o tráfego do botnet. Da mesma forma, a IA pode gerar scripts que, embora pareçam legítimos, contêm vulnerabilidades ou backdoors que os hackers podem explorar. A técnica é particularmente insidiosa porque usa as próprias saídas da IA como vetores de ataque, dificultando a detecção. Medidas de segurança tradicionais, que escaneiam padrões maliciosos conhecidos, podem não detectar ataques originados de conteúdo gerado por IA que parece benigno. Pesquisadores demonstraram ataques HalluSquatting bem-sucedidos usando nove ferramentas de IA comerciais e de código aberto, incluindo chatbots e assistentes de código populares. Os botnets resultantes podem ser usados para ataques de negação de serviço distribuída (DDoS), roubo de credenciais e mineração de criptomoedas. Para mitigar o risco, especialistas em segurança recomendam implementar validação rigorosa de saída para sistemas de IA, especialmente ao gerar código ou configurações de rede. Organizações também devem treinar modelos de IA para reconhecer e recusar solicitações que possam facilitar atividades maliciosas. A descoberta destaca um desafio emergente de segurança cibernética à medida que as ferramentas de IA se integram mais aos fluxos de trabalho de desenvolvimento. Sem as devidas salvaguardas, os próprios sistemas projetados para ajudar os humanos podem ser usados contra eles.