Anthropic CEO、AI開発を減速させる計画を提示

AnthropicのCEOダリオ・アモデイ氏がAI開発のペースを落とす計画を示し、METRのような独立した第三者評価機関が同社モデルにアクセスし、安全慣行と約束の順守を検証できるようにすることを提案しました。この提案は長文エッセイの中で示され、アモデイ氏は主要AIラボ間の協調的抑制を意味する言葉となった「フロンティアのペース配分」への3段階アプローチを説明しています。 核心となる考えは、自発的な約束だけでは不十分だという点です。外部検証がなければ、ラボは安全慣行を守っていると主張しても、誰も確認できません。外部評価者を招き入れることで、アモデイ氏は、たとえ厄介でも信頼性には透明性と独立した精査が必要だと主張しています。 3段階の枠組みは、競争圧力の下での場当たり的な判断に頼るのではなく、特定のリスク閾値に近づいたときにラボが構造的に減速する方法を与えることを意図しています。その圧力は強烈です。より高性能なモデルを構築する競争は劇的に加速しており、一方的に停止するラボは、そうしない競合に後れを取るリスクを負います。 このエッセイが注目されるのは、競合間の見解の一致が見える点です。OpenAIのサム・アルトマン氏も協調的な安全策の必要性について同様の考えを述べており、主要AI企業2社の間に異例の収束が見られます。それが真の共通懸念を反映するのか、規制を形作る戦略的努力なのかは未解決です。 懐疑論者は、自発的なペース配分が根本的な集団行動の問題に直面すると指摘します。一部のラボだけが減速すれば、他が速く進む利益を享受するかもしれません。執行、検証、国際調整はいずれも未解決です。それでもこの提案は、フロンティアAI開発をどう統治すべきかという広い議論に勢いを加え、他のラボにも自らの安全主張をどう検証するのか説明するよう圧力をかけています。