Hackers usan IA para armar botnets masivas

Investigadores en ciberseguridad han identificado una peligrosa nueva técnica de ataque bautizada como 'HalluSquatting' que explota una debilidad fundamental en los modelos de lenguaje grandes (LLMs): su incapacidad para admitir incertidumbre. El método permite a los hackers armar botnets masivas usando nueve herramientas populares de IA, lo que supone una amenaza significativa para la infraestructura global de internet. HalluSquatting se aprovecha de la tendencia de los LLMs a generar información que suena plausible pero es incorrecta, un fenómeno conocido como 'alucinación'. Los atacantes crean indicaciones que deliberadamente provocan estas alucinaciones, haciendo que los sistemas de IA generen código, comandos o configuraciones que, sin saberlo, contribuyen a las operaciones de la botnet. Por ejemplo, cuando se le pide a un LLM que sugiera direcciones IP de servidores para una red distribuida, podría inventar direcciones que parecen válidas y que los atacantes luego usan para coordinar el tráfico de la botnet. De manera similar, la IA podría generar scripts que, aunque parecen legítimos, contienen vulnerabilidades o puertas traseras que los hackers pueden explotar. La técnica es particularmente insidiosa porque utiliza las propias salidas de la IA como vectores de ataque, lo que dificulta la detección. Las medidas de seguridad tradicionales que buscan patrones maliciosos conocidos pueden pasar por alto ataques que se originan en contenido generado por IA que parece benigno. Los investigadores han demostrado ataques HalluSquatting exitosos usando nueve herramientas de IA comerciales y de código abierto, incluidos chatbots populares y asistentes de código. Las botnets resultantes pueden usarse para ataques de denegación de servicio distribuido (DDoS), relleno de credenciales y minería de criptomonedas. Para mitigar el riesgo, los expertos en seguridad recomiendan implementar una validación estricta de las salidas de los sistemas de IA, especialmente al generar código o configuraciones de red. Las organizaciones también deberían entrenar a los modelos de IA para reconocer y rechazar solicitudes que podrían facilitar actividades maliciosas. El descubrimiento destaca un desafío emergente en ciberseguridad a medida que las herramientas de IA se integran más en los flujos de trabajo de desarrollo. Sin las salvaguardas adecuadas, los mismos sistemas diseñados para ayudar a los humanos podrían ser utilizados en su contra.