米中、AIセキュリティ事故の相互通報を協議

米国と中国の当局者が、国家安全保障を脅かす可能性のあるAIインシデントについて相互に通知するチャネルの創設を協議したと報じられました。WIREDによると、この協議は、高度なAIシステムが国境を越えて広がるリスクを生むという認識の高まりを反映しています。リスクにはサイバー攻撃、偽情報キャンペーン、自律型兵器が含まれ、どれも一方が他方の意図を読み違えれば急速にエスカレートしかねません。 専用の警告メカニズムは早期警戒システムとして機能し得ます。深刻なAI関連インシデント、たとえばモデルがサイバー侵入に使われた場合や、危険な自律システムが予期しない動作をした場合、大規模な偽情報作戦が起きた場合に、両政府が推測や非難の応酬に陥る前に基本情報を共有できるかもしれません。危機においては、限定的なコミュニケーションでも誤算の可能性を減らせます。 しかし障害は大きいです。ワシントンと北京は技術問題で深い不信を抱えたままです。両国はAIの主導権を争っており、情報共有が諜報活動を明かしたり、脆弱性を露出させたり、相手に優位を与えたりすることを懸念しています。何をもってAIセキュリティ・インシデントとするかの定義も難しいでしょう。サイバー攻撃は犯罪者、国家主体、AIツールのいずれに帰属するか判断が分かれ、証拠が争われることもあります。 協議はまだ初期段階で、正式な合意には至らないかもしれません。それでも、控えめなホットラインや技術対話には価値があり得ます。AIシステムはより高性能になり、広く展開される一方、その失敗の仕方は完全には理解されていません。軍事、諜報、民生システムが自動意思決定と絡み合うにつれ、偶発的なエスカレーションのリスクは高まる可能性があります。今回の協議は、両政府がAIを単なる商業競争ではなく、戦略的安定性の問題と見ていることを示します。通知メカニズムは広範な緊張を解消したり、あらゆる危険なAI利用を防いだりはできません。しかし、急速に進むインシデントが意図的な攻撃と解釈されかねないときに、デエスカレーションのための細いチャネルを作ることはできるでしょう。