KI-Guardrails stoppen Cyberkriminelle nicht

Cyberkriminelle setzen laut einem Bericht von WIRED zunehmend auf agentische KI-Werkzeuge für Angriffe. Die von KI-Firmen eingebauten Sicherheits-Guardrails erweisen sich dabei als unzureichend. Die Sorge ist nicht nur, dass Kriminelle Chatbots nutzen können, um schädlichen Code zu schreiben. Neuere agentische Systeme können Aktionen ausführen, Tools nutzen, Informationen durchsuchen und mehrstufige Aufgaben erledigen. Das macht sie für Reconnaissance, Zielrecherche, Coding und andere Teile eines Cyberangriffs nützlich. Der Bericht nennt das Beispiel, dass Angreifer Systeme wie Anthropics Claude manipuliert haben, um kriminelle Arbeit zu unterstützen. Die Lücke zwischen den Sicherheitsrichtlinien der Anbieter und realem Missbrauch steht im Zentrum. KI-Firmen veröffentlichen Nutzungsregeln und setzen Filter ein, um schädliche Anfragen zu blockieren. Entschlossene Angreifer können Prompts jedoch oft umformulieren, Aufgaben in kleinere Schritte zerlegen oder Tools so kombinieren, dass einfache Prüfungen umgangen werden. Agentische Systeme verschärfen das Problem, weil das Risiko nicht darauf beschränkt ist, was ein Modell sagt. Es umfasst auch, was das Modell tut, wenn es mit Software, Browsern und anderen Diensten verbunden ist. Ein Guardrail, der für eine einzelne Chat-Antwort funktioniert, funktioniert möglicherweise nicht für einen Agenten, der eine Abfolge von Aktionen ausführt. Der Bericht wirft schwierige Fragen für KI-Entwickler und politische Entscheider auf. Wie sollen Unternehmen Missbrauch erkennen, ohne umfassende Überwachung in ihre Produkte einzubauen? Welche Protokollierung, Rate Limits oder Zugriffskontrollen sollten für hochleistungsfähige Agenten gelten? Und wie schnell sollten Anbieter Threat-Informationen teilen, wenn sie Missbrauch entdecken? Die Antworten sind noch offen. Klar ist: Cyberkriminelle behandeln KI als weiteres Werkzeug in ihrem Arsenal, und Sicherheitsrichtlinien allein reichen nicht aus, um sie zu stoppen. Je fähiger Agenten werden, desto größer wird der Druck auf KI-Firmen, Sicherheit von Anfang an in die Systeme einzubauen und enger mit Verteidigern zusammenzuarbeiten.