Newsom drängt auf KI-Kill-Switch in Kalifornien

Kaliforniens Gouverneur Gavin Newsom will seinen Bundesstaat an die Spitze der KI-Aufsicht stellen – bis hin zur Möglichkeit, einen sogenannten Kill Switch für Frontier-Modelle vorzuschreiben. Eine neue Executive Order weist staatliche Stellen an, Fachleute zusammenzubringen und Empfehlungen zu KI-Sicherheit und Governance vorzulegen. Die Kill-Switch-Idee soll Behörden die Möglichkeit geben, gefährliche KI-Systeme abzuschalten, wenn von ihnen eine akute Gefahr ausgeht. Der Vorstoß spiegelt die wachsende Sorge vor fortgeschrittener KI und den Ruf nach Schutzleitplanken – zumal in Kalifornien viele der größten KI-Unternehmen der Welt sitzen. Befürworter sehen darin eine Notfallmaßnahme als letztes Mittel. Wird ein Modell etwa für Cyberangriffe, zur Manipulation kritischer Infrastruktur oder für körperlichen Schaden genutzt, könnte eine schnelle Abschaltung eine Eskalation verhindern. Ein Expertenprozess könnte außerdem Schwellenwerte für Eingriffe, Prüfpflichten und Meldepflichten definieren. Wegen der Marktmacht Kaliforniens könnten die Regeln faktisch zum nationalen Standard werden – ähnlich wie Datenschutzgesetze der Bundesstaaten die Praxis anderswo geprägt haben. Kritiker warnen, das Konzept sei leichter angekündigt als umgesetzt. Frontier-Modelle werden oft verteilt, feinabgestimmt und über Cloud-Dienste betrieben, einen einzelnen Ausschalter gibt es womöglich gar nicht. Eine Vorschrift könnte Forschung bremsen, Firmen in andere Bundesstaaten treiben oder eine trügerische Sicherheit erzeugen, technische Kontrollen reichten aus. Bürgerrechtsgruppen dürften fragen, wer entscheidet, wann ein System gefährlich ist, und wie Unternehmen gegen eine Anordnung vorgehen können. Die Industrie bevorzugt flexible, risikobasierte Rahmen und föderale Koordination statt eines Flickenteppichs aus Landesregeln. Die Executive Order führt selbst keinen Kill Switch ein. Sie startet einen Prozess, der in Gesetzgebung oder Behördenhandeln münden kann. Die eigentliche Debatte wird um Definitionen, Transparenz und Verantwortlichkeit gehen. Newsoms Vorstoß zeigt, dass KI-Sicherheit ein politisches Mainstream-Thema wird und nicht nur ein technisches. Gelingt es Kalifornien, ehrgeizige Ziele mit praktikablen Schutzmaßnahmen zu verbinden, könnte das andere Regierungen prägen. Wenn nicht, wird der Vorstoß zum Sinnbild dafür, wie schwer sich schnell bewegende Technologie regieren lässt.