Nadella 籲 AI 模型該裝「緊急煞車」

微軟執行長 Satya Nadella 呼籲為 AI 模型裝上「緊急煞車」，並要科技產業「退一步，重新檢視 AI 的信任架構」。他在週六上午的發文中主張，強大的 AI 系統正快速部署，但安全防護與監督機制未必跟得上。 他的提案意味著，開發者與監管機關需要一套機制，在模型出現非預期或危險行為時，能夠將其停下或減速。這不一定是某個實體的單一開關，也可能包含技術控制、部署政策、稽核要求，或是業界協調出的共同標準，讓人類能在危害擴散前介入。 Nadella 的發言之所以有份量，是因為微軟是 AI 技術最大的投資者與供應者之一。當科技大老談的是「煞車」而不只是「加速」，代表安全顧慮已越來越難被當成純粹的假設性問題。 真正的難題在於：誰有資格踩煞車？在什麼條件下踩？管控太少，可能讓原本能避免的意外發生；管控太多，又可能凍結有用的研究，或把權力集中在少數守門人手上。Nadella 的介入可能影響監管辯論，尤其是在各國政府正考慮為先進 AI 制定規則之際，也可能對其他公司形成壓力，促使它們公布更清楚的安全承諾。 說到底，緊急煞車的討論反映一個更根本的問題：社會該如何在享受快速演進的 AI 好處之餘，仍保有在系統出錯時停下、檢查並修正的能力？Nadella 的呼籲，是個訊號——產業開始把這個問題當成刻不容緩的事。