OpenAI、Anthropic、GoogleがAI安全めぐり協議

OpenAIは、AIの安全性をめぐってAnthropicおよびGoogle DeepMindと数週間にわたり協議を続けていることを認めました。この協議には、いま最も注目される研究所が集まっています。各社のトップであるDario Amodei氏、Sam Altman氏、Demis Hassabis氏は、高性能化するモデルのリスクについて公の場で警告を発してきました。推論やコーディング、ツールを通じた行動といった能力が高まるにつれ、その警告はより鋭くなっています。 ただし、こうした協議が進む政策環境は大きく分断されています。トランプ政権は安全面の懸念の多くを退け、中国との競争に後れを取らないことを重視し、AIを主に戦略的競争として位置づけています。業界が慎重さを求める声と、スピードと競争力を優先する政府の議題との間には、広がる溝があるということです。 協議からは、共通の技術標準や評価手法、危険な能力に関するコミットメントが生まれる可能性があります。一方で、競争圧力が各社の減速をためらわせるなら、象徴的なものにとどまる可能性もあります。協調が難しいのは、当の企業同士が製品投入、人材獲得、計算資源の確保を争うライバルだからです。 安全慣行に関する合意ができたとしても、独占禁止、透明性、そして広く公共の影響を持つ技術のルールを民間の研究所が決めてよいのかという疑問がつきまといます。それでも、こうした協議が行われていること自体、研究所のトップが一部のリスクは単独では対処できないと見ている証拠といえるでしょう。 課題は、非公開の会話を検証可能な安全策に変えられるかどうかです。独立した監視がなければ、公衆がそのコミットメントの実効性を判断するのは難しいでしょう。規制が停滞し、あるいは議論の的になっているなかで、業界自身の取り組みが事実上の安全フレームワークになる可能性があります。それが良い方向に働くか悪い方向に働くかは別として。今後数カ月で、協力が商業的なインセンティブに耐えられるかが明らかになります。