KI-Tools als Botnet-Bausteine missbraucht

Cybersicherheitsforscher haben eine gefährliche neue Angriffstechnik namens 'HalluSquatting' identifiziert, die eine grundlegende Schwäche großer Sprachmodelle (LLMs) ausnutzt: ihre Unfähigkeit, Unsicherheit zuzugeben. Die Methode erlaubt es Hackern, neun beliebte KI-Tools zu kapern, um riesige Botnetze aufzubauen – eine ernsthafte Bedrohung für die globale Internet-Infrastruktur. HalluSquatting macht sich die Neigung von LLMs zunutze, plausibel klingende, aber falsche Informationen zu generieren – ein Phänomen, das als 'Halluzination' bekannt ist. Angreifer erstellen gezielt Eingabeaufforderungen, die diese Halluzinationen auslösen, sodass die KI-Systeme Code, Befehle oder Konfigurationen generieren, die unwissentlich zu Botnetz-Operationen beitragen. Ein Beispiel: Wenn die KI nach Server-IP-Adressen für ein verteiltes Netzwerk gefragt wird, könnte sie gültig aussehende Adressen erfinden, die Angreifer dann nutzen, um Botnetz-Traffic zu koordinieren. Ähnlich könnte die KI Skripte generieren, die zwar legitim wirken, aber Schwachstellen oder Hintertüren enthalten, die Hacker ausbeuten können. Die Technik ist besonders tückisch, weil sie die eigenen Ausgaben der KI als Angriffsvektoren nutzt, was die Erkennung erschwert. Traditionelle Sicherheitsmaßnahmen, die nach bekannten schädlichen Mustern suchen, könnten Angriffe übersehen, die von KI-generierten Inhalten ausgehen, die harmlos erscheinen. Forscher haben erfolgreiche HalluSquatting-Angriffe mit neun verschiedenen kommerziellen und Open-Source-KI-Tools demonstriert, darunter beliebte Chatbots und Code-Assistenten. Die resultierenden Botnetze können für Distributed-Denial-of-Service-Angriffe (DDoS), Credential-Stuffing und Kryptowährungs-Mining genutzt werden. Um das Risiko zu mindern, empfehlen Sicherheitsexperten die Implementierung strenger Ausgabevalidierung für KI-Systeme, insbesondere bei der Generierung von Code oder Netzwerkkonfigurationen. Organisationen sollten KI-Modelle auch darauf trainieren, Anfragen zu erkennen und abzulehnen, die schädliche Aktivitäten erleichtern könnten. Die Entdeckung unterstreicht eine aufkommende Cybersicherheits-Herausforderung, da KI-Tools zunehmend in Entwicklungs-Workflows integriert werden. Ohne angemessene Schutzmaßnahmen könnten die Systeme, die eigentlich Menschen helfen sollen, gegen sie verwendet werden.