Anthropic und OpenAI wollen interne Sicherheitsprüfer

Anthropic und OpenAI erkunden einen neuen Ansatz für KI-Sicherheit: unabhängige Evaluatoren in den eigenen Laboren zu platzieren. Die Idee ist, externen Expertinnen und Experten frühen Zugang zu Modellen, Trainings-Pipelines und Deployment-Entscheidungen zu geben, damit Risiken erkannt werden, bevor Produkte die Öffentlichkeit erreichen. Forschende sagen, dieser Grad an Zugang sei beispiellos. Er könnte Evaluatoren erlauben, Designentscheidungen zu beeinflussen, gefährliche Fähigkeiten zu testen und Probleme zu melden, solange Fixes noch günstig sind. Befürworter argumentieren, interne Prüfung könne Probleme schneller finden als externe Audits, die erst nach dem Ausliefern eines Modells stattfinden. Kritiker warnen jedoch, eingebettete Evaluatoren könnten unter Druck geraten, Befunde abzuschwächen. Wenn Finanzierung, Karrierechancen oder Zugang von den Laboren abhängen, können sie dann wirklich kommerzielle Prioritäten infrage stellen? Unabhängigkeit, Transparenz und klare Berichtswege wären entscheidend. Evaluatoren bräuchten außerdem die Möglichkeit, Bedenken zu veröffentlichen, sich an Regulierer zu wenden und ohne Repressalien zu gehen. Die Debatte spiegelt eine größere Frage der KI-Governance wider: Kann freiwillige interne Aufsicht bei Unternehmen funktionieren, die um den Bau mächtiger Systeme wetteifern? Manche Expertinnen und Experten sehen eingebettete Prüfung als nützliche Übergangslösung, nicht als Ersatz für Regulierung. Sie fordern verpflichtende externe Audits, Sicherheitsstandards und rechtliche Verantwortlichkeit. Andere glauben, enge Zusammenarbeit zwischen Laboren und Evaluatoren könne Sicherheitskultur verbessern und Schutzmaßnahmen beschleunigen. Derzeit haben Anthropic und OpenAI Interesse signalisiert, aber Details bleiben unklar. Der entscheidende Test wird sein, ob eingebettete Evaluatoren echte Macht bekommen oder zu einer PR-Schicht werden. Wenn sie Führungskräfte herausfordern, Releases mitgestalten und Risiken offenlegen können, könnte das Modell Verantwortlichkeit tatsächlich verbessern. Wenn nicht, könnte es eine Illusion von Aufsicht erzeugen, während wichtige Entscheidungen bei den Laboren bleiben.