Anthropic will KI-Gesetz nur mit Richtervorbehalt

Anthropic hat laut TechCrunch einen Gesetzentwurf zur KI-Sicherheit vorgeschlagen, der die Veröffentlichung eines Modells blockieren könnte, wenn dadurch mehr als 50 Menschen getötet werden könnten. Der Vorschlag wird als Schutz vor gefährlichen KI-Systemen präsentiert – würde Bundesbehörden dem Bericht zufolge aber auch daran hindern, ein Modell ohne richterliche Genehmigung zu stoppen. Darin liegt die zentrale Spannung. Auf der einen Seite stünde eine hoch angesetzte Sicherheitsschwelle, die Regulierern ein Instrument gäbe, noch vor der Veröffentlichung eines Modells einzugreifen. Auf der anderen Seite könnte die Pflicht zur richterlichen Freigabe Notfallmaßnahmen verzögern und rechtliche Hürden genau dann aufbauen, wenn Tempo entscheidend wäre. Der Vorschlag spiegelt damit eine größere Debatte darüber, wie Regierungen fortgeschrittene KI regulieren sollten. Befürworter eines Richtervorbehalts dürften argumentieren, dass er willkürliche Behördenentscheidungen verhindert und faire Verfahren sichert, wenn es um das Produkt eines Unternehmens geht. Kritiker dürften einwenden, dass sich die Schwelle kaum sauber definieren lässt, dass Belege für mögliche Schäden oft unsicher sind und dass das Warten auf ein Gericht die Schutzmaßnahme in einer Krise zu langsam macht. Auch die Marke von 50 Personen dürfte für Diskussionen sorgen. Abzuschätzen, wie viele Menschen ein Modell töten könnte, ist kein geradliniger technischer Vorgang – der Gesetzentwurf bräuchte ein Verfahren, das diese Einschätzung glaubwürdig macht. Der Bericht enthält nicht den vollständigen Gesetzestext, daher bleibt unklar, wer die erste Bewertung vornimmt und welchen Maßstab ein Gericht anlegen würde. Bemerkenswert ist die Geschichte trotzdem: Sie zeigt ein führendes Unternehmen im Bereich KI-Sicherheit, das sich direkt in die Ausgestaltung von Politik einschaltet. Und sie macht deutlich, wie schwierig Regeln für Systeme zu schreiben sind, deren Risiken sich vorab kaum messen lassen. In der weiteren Debatte um KI-Regulierung dürfte der von Anthropic unterstützte Vorschlag sowohl als ernsthafter Sicherheitsbeitrag als auch als Warnung vor den Grenzen rechtlicher Verfahren und schneller Krisenreaktion zitiert werden.