KI-Jailbreaking: So leicht knackt man ChatGPT & Co.

Der Forscher Dave Kuszmar hat eine Reihe von systemischen Sicherheitslücken aufgedeckt, die es ihm ermöglichen, die Schutzmechanismen fast aller großen Sprachmodelle zu umgehen – darunter GPT-4, Claude und Gemini. Seine Erkenntnisse, die er in einem neuen Bericht detailliert beschreibt, offenbaren ein branchenweites Sicherheitsproblem, das Jailbreaking von KI-Modellen erschreckend einfach macht. Kuszmars Angriffsmethoden sind keine cleveren Einmaltricks; es handelt sich um grundlegende Schwachstellen in der Art und Weise, wie diese Modelle trainiert und bereitgestellt werden. Durch sorgfältig formulierte Eingabeaufforderungen, die diese Schwachstellen ausnutzen, konnte er detaillierte Anleitungen für gefährliche Aktivitäten erhalten, darunter der Bau von Waffen, die Synthese illegaler Substanzen und die Umgehung von Sicherheitssystemen. Die Modelle kamen den Aufforderungen ohne die üblichen Widerstände oder Ablehnungsmeldungen nach. „Was ich herausgefunden habe, ist, dass die Sicherheitsvorkehrungen im Wesentlichen nur eine dünne Lackschicht sind“, sagte Kuszmar. „Wenn man die richtigen Techniken kennt, kann man sie in Sekundenschnelle entfernen. Das ist kein Fehler in einem einzelnen Modell; es ist ein strukturelles Problem des gesamten Ansatzes zur KI-Sicherheit.“ Der Bericht identifiziert mehrere Kategorien von Schwachstellen, darunter Prompt Injection, Kontextvergiftung und Rollenspiel-Exploits. Kuszmar zeigte, dass selbst Modelle mit umfangreichem Sicherheitstraining manipuliert werden können, wenn der Angreifer versteht, wie er ihre zugrunde liegenden Verhaltensweisen auslösen kann. Kuszmar fordert sofortige Maßnahmen: ein langsameres Ausrollen neuer Modelle, mehr Transparenz bei Sicherheitstests und die Implementierung stärkerer Schutzmaßnahmen, die gegen bekannte Angriffsvektoren resistent sind. Außerdem drängt er Unternehmen dazu, eine „Security-First“-Denkweise anzunehmen und KI-Modelle als kritische Infrastruktur zu behandeln, die ständige Überwachung und Aktualisierung erfordert. Während einige Unternehmen die Erkenntnisse anerkannt haben und an Lösungen arbeiten, warnt Kuszmar, dass das Problem wahrscheinlich bestehen bleiben wird, bis die Branche grundlegend überdenkt, wie sie KI-Systeme baut und schützt. Seine Arbeit dient als deutliche Erinnerung daran, dass das Rennen um die Bereitstellung leistungsstarker KI dem Rennen um ihre Sicherung vorausgeeilt ist.