Anthropic、METRに社員級アクセスを開放

Anthropicは、研究機関METRの研究者に社員レベルのアクセスを提供し、同社のモデルやリスク、インシデント、内部の慣行を研究できるようにしています。この取り決めが異例なのは、METRが独自の評価を公表し、Anthropicがその公表をブロックする権利を手放したと報じられている点です。両者を組み合わせることで、フロンティアAI開発に対する独立した検証を強める狙いがあります。 外部監査は、企業が自社システムを自ら正当に評価することはできないと懸念する政策担当者、安全性研究者、批判者らの間で中心的な要求になっています。社員レベルのアクセスがあれば、METRはモデルの出力だけでなく、開発上の意思決定や安全性テスト、インシデント対応の背景にある状況も調べられます。承認なしで公表できる点が、この取り決めで最も重要な部分と言えるでしょう。 これは、大手AIラボが営業秘密や個人データ、セキュリティ上重要な情報を守りながら、外部の専門家にどこまで内部を開示できるかを試すテストになります。METRが有益で公平、かつ技術的に厳密な報告を出せれば、業界で同様の合意が広がるきっかけになるかもしれません。逆にプロセスが制限すぎたり、対立が目立ったりすれば、自主的な透明性の限界が明らかになります。 研究対象の企業から与えられたアクセスに頼るMETRが、どこまで独立を保てるのかという疑問も残ります。それでも、公開のモデルカードやブログ記事より一歩踏み込んだ具体的な動きです。政府が義務的な評価制度を検討するなか、AI企業が外部の専門家に内部の仕事をどこまで見せるかという期待値を作る可能性があります。結果は安全性の推進派からAI企業まで、幅広く注目されそうです。