加州要推 AI「終止開關」？紐森下令專家研議

加州州長紐森正採取行動，要讓加州成為 AI 監管的領導者，其中包含可能要求前沿模型配備所謂的「終止開關」。一項新的行政命令指示州政府官員召集專家，針對 AI 安全與治理提出建議。終止開關的構想，是讓主管機關在 AI 系統構成急迫風險時，有辦法把它關掉。這項提案反映出外界對先進 AI 的憂慮升高，以及對護欄的需求，尤其加州正是全球多家大型 AI 公司的所在地。 支持者認為，終止開關可以是最後一道安全防線。如果某個模型被用來發動網路攻擊、操弄關鍵基礎設施，或造成實體傷害，能快速讓它失效，就可能阻止事態升高。專家程序也可以定義介入的門檻、稽核要求與通報義務。加州在市場上的影響力，意味著它的規則可能成為實質上的全美標準，就像州層級的隱私法規曾塑造其他地方的實務做法一樣。 批評者則警告，這個概念要宣布很容易，要落實卻很難。前沿模型往往透過雲端服務散布、微調與部署，因此未必存在單一一個開關。強制要求也可能抑制研究、逼企業把研發移到其他州，或讓人誤以為技術控制已經足夠。公民自由團體可能會問：誰有權判定一個系統危不危險？企業又能如何對命令提出異議？產業團體則偏好有彈性、以風險為基礎的框架，以及聯邦層級的協調，而不是各州各吹一把號。 這道行政命令本身並沒有直接實施終止開關，而是啟動一個可能導向立法或主管機關行動的程序。真正的辯論會圍繞定義、透明度與問責打轉。紐森的動作顯示，AI 安全正在變成主流政治議題，而不只是技術問題。如果加州能把野心與務實的防護措施配在一起，也許能影響其他政府如何處理前沿 AI；如果做不到，這項努力恐怕會成為「快速演進的技術有多難治理」的象徵。