OpenAIやグーグル社員ら、AI開発の一時停止を政府に要請

OpenAI、Anthropic、Google、Metaといった主要なAI研究所の従業員が、異例の連帯行動として共同声明に署名し、米国政府に対して最先端AI（フロンティアAI）の開発ペースを抑制し、国際的なガバナンスの枠組みを強化するよう緊急に求める要請を行いました。この声明は、ますます強力で自律性を高めるAIシステムがもたらす潜在的なリスクに対するAIコミュニティ内部の不安の高まりを如実に反映しています。 署名者らは、人工知能分野における最も優れた頭脳の一部であり、高度なAIシステムが人間の監視を超えて制御不能になる前に、安全性基準、テスト要件、および導入制限を確立するための国際的な協調努力を求めています。彼らの懸念は、人間の監視を超えて動作し、破滅的な結果を招く可能性のある自動化されたAIシステムの急速な進歩に集中しています。 声明では特に、米国政府が国際的なパートナーと協力し、最先端のAIモデルが公開される前に厳格な安全性評価を義務付ける拘束力のある規制を策定するよう求めています。また、AI安全性研究への資金増額や、AI開発を追跡しコンプライアンスを強制するための世界的な監視機関の設立も提案されています。 今回の介入が注目に値するのは、外部の批評家ではなく、業界内部から発せられたものだからです。署名者らは事実上、自身の研究に対する制約を求めており、AI開発を推進する競争圧力がリスクを管理する能力を上回っている可能性があると認識していることを示しています。彼らは、政府の介入なしには、より高性能なAIシステムを構築する競争が誰も勝者とならない軍拡競争につながりかねないと主張しています。 今回の行動要請は、既存のガバナンス構造ではテクノロジーの進歩の速さに追いつけないという認識がAI研究者の間で広がりつつあることを浮き彫りにしています。政府がこの警告に耳を傾けるかどうかは未知数ですが、この声明は、AIが人類に利益をもたらす一方でその危険性を最小限に抑える方法をめぐる現在進行形の議論において、重要な瞬間を示すものとなっています。