Anthropic gibt METR Zugang auf Mitarbeiterebene

Anthropic gibt Forschenden von METR Zugang auf Mitarbeiterebene, damit sie Modelle, Risiken, Vorfälle und interne Praktiken des Unternehmens untersuchen können. Der Deal ist ungewöhnlich, weil METR seine Bewertungen selbst veröffentlicht und Anthropic Berichten zufolge auf das Recht verzichtet hat, diese Publikationen zu blockieren. Diese Kombination soll die unabhängige Prüfung von Frontier-KI stärken. Externe Audits sind zu einer zentralen Forderung von Politikerinnen, Safety-Forschern und Kritikern geworden, die bezweifeln, dass Unternehmen ihre eigenen Systeme glaubwürdig bewerten können. Zugang auf Mitarbeiterebene könnte METR erlauben, nicht nur Modell-Outputs zu prüfen, sondern auch den Kontext von Entwicklungsentscheidungen, Sicherheitstests und dem Umgang mit Vorfällen. Die Möglichkeit, ohne Genehmigung zu veröffentlichen, ist womöglich der wichtigste Teil der Vereinbarung. Damit wird getestet, ob ein großes KI-Labor sich externen Expertinnen öffnen kann und trotzdem Geschäftsgeheimnisse, personenbezogene Daten und sicherheitsrelevante Informationen schützt. Liefert METR nützliche, faire und technisch saubere Berichte, könnte das Modell Schule machen. Wird der Prozess zu eng oder zu konfliktreich, zeigt sich, wo die Grenzen freiwilliger Transparenz liegen. Zugleich stellt sich die Frage, wie unabhängig METR sein kann, wenn der Zugang vom untersuchten Unternehmen selbst gewährt wird. Dennoch ist der Schritt mehr als öffentliche Model Cards und Blogposts. Er könnte Erwartungen daran setzen, wie KI-Firmen externen Sachverstand in ihre interne Arbeit blicken lassen – gerade während Regierungen über verpflichtende Evaluierungsregime nachdenken. Die Ergebnisse dürften sowohl von Safety-Befürwortern als auch von KI-Unternehmen genau verfolgt werden.