Anthropic-CEO will KI-Tempo drosseln

Anthropic-CEO Dario Amodei hat einen Plan vorgestellt, das Tempo der KI-Entwicklung zu verlangsamen. Darin schlägt er vor, unabhängigen Dritten wie METR Zugang zu den Modellen von Anthropic zu gewähren, um die Einhaltung von Sicherheitspraktiken und Zusagen zu überprüfen. Der Vorschlag erschien in einem langen Essay, in dem Amodei einen Dreischritt-Ansatz zum Pacing der Frontier beschreibt – ein Begriff, der inzwischen als Kurzformel für koordinierte Zurückhaltung unter führenden KI-Laboren gilt. Die Kernidee: Freiwillige Selbstverpflichtungen reichen allein nicht aus. Ohne externe Verifikation können Labore behaupten, Sicherheitspraktiken zu befolgen, ohne dass jemand das bestätigen kann. Indem Amodei externe Evaluatoren einlädt, argumentiert er, dass Glaubwürdigkeit Transparenz und unabhängige Prüfung erfordert – selbst wenn diese Prüfung unbequem ist. Der Dreischritt-Rahmen soll Laboren einen strukturierten Weg geben, bei bestimmten Risikoschwellen langsamer zu werden, statt sich auf Ad-hoc-Entscheidungen unter Wettbewerbsdruck zu verlassen. Dieser Druck ist intensiv: Das Rennen um leistungsfähigere Modelle hat deutlich an Fahrt aufgenommen, und jedes Labor, das einseitig pausiert, riskiert, hinter Rivalen zurückzufallen, die das nicht tun. Bemerkenswert an dem Essay ist die scheinbare Übereinstimmung zwischen Wettbewerbern. OpenAIs Sam Altman hat ähnliche Ansichten über die Notwendigkeit koordinierter Sicherheitsmaßnahmen geäußert, was auf ein ungewöhnliches Maß an Konvergenz zwischen zwei der führenden KI-Unternehmen hindeutet. Ob diese Konvergenz echte gemeinsame Sorge widerspiegelt oder ein strategischer Versuch ist, Regulierung zu beeinflussen, bleibt offen. Skeptiker weisen darauf hin, dass freiwilliges Pacing vor einem grundlegenden Kollektivgut-Problem steht. Wenn nur einige Labore langsamer machen, könnten andere die Vorteile eines schnelleren Vorgehens abschöpfen. Durchsetzung, Verifikation und internationale Koordination sind weiterhin ungelöst. Dennoch gibt der Vorschlag der breiteren Debatte darüber Auftrieb, wie Frontier-KI-Entwicklung gesteuert werden sollte, und setzt andere Labore unter Druck zu erklären, wie sie ihre eigenen Sicherheitsversprechen überprüfen würden.