カリフォルニア州、AIに「キルスイッチ」検討へ

カリフォルニア州のギャビン・ニューサム知事は、フロンティアモデルにいわゆる「キルスイッチ」を義務付ける可能性を含め、AI監督で州をリードする立場を打ち出しています。新しい行政命令は、州当局が専門家を招集し、AIの安全性とガバナンスに関する提言をまとめるよう指示するものです。キルスイッチの構想は、危険なAIシステムが緊急のリスクをもたらした場合に当局が停止できる手段を想定しています。世界最大級のAI企業の多くが拠点を置くカリフォルニアだけに、高度なAIへの懸念とガードレールの必要性が高まっていることを反映しています。 賛成派は、キルスイッチを最後の手段の安全策と位置づけます。モデルがサイバー攻撃、重要インフラの操作、身体的な危害に使われている場合、素早く無効化できれば被害の拡大を防げる可能性があります。専門家による検討プロセスでは、介入のしきい値、監査要件、報告義務なども定義され得ます。カリフォルニアの市場での影響力は、他州のプライバシー法が慣行を形作ってきたように、事実上の全米標準になる可能性があります。 批判派は、発表は簡単でも実装は難しいと警告します。フロンティアモデルは分散して微調整され、クラウド経由で提供されることが多いため、単一の停止スイッチが存在しないかもしれません。義務化は研究を萎縮させ、企業を他州へ移させ、技術的な制御で十分だという誤った自信を生む恐れもあります。市民的自由の団体は、いつシステムが危険かを誰が判断し、企業が命令に異議を唱える方法を問うでしょう。業界団体は州ごとにバラバラな規制より、柔軟なリスクベースの枠組みと連邦レベルでの調整を好みます。 行政命令自体はキルスイッチを課すものではありません。立法や省庁の措置につながり得るプロセスを始めるものです。本当の議論は定義、透明性、説明責任をめぐって起きます。ニューサム氏の動きは、AIの安全性が技術だけの問題ではなく、主流の政治課題になりつつあることを示しています。カリフォルニアが野心的な目標と実用的な保護策を両立できれば、他の政府のフロンティアAIへの向き合い方に影響を与えるかもしれません。できなければ、急速に進む技術を統治することの難しさの象徴になりかねません。