AI產業掀「末日論」轉向 MIT科技評論拆解背後脈絡

MIT Technology Review觀察到AI產業一個不尋常的匯流現象：幾位最有權勢的領導者如今大致同意，最新一代模型帶有災難性風險。Dario Amodei、Sam Altman、Elon Musk與Demis Hassabis都曾以不同方式警告，若在開發與部署時不夠謹慎，先進AI可能造成嚴重危害。 這樣的轉向並非一夕發生。早年的討論多半聚焦在偏見、錯誤資訊或就業流失等特定危害；如今，部分實驗室掌門人談的是生存風險、失去控制，以及前所未見的協調必要。文章追蹤這股「末日論」轉向，如何在推動前沿能力的公司內部成為主流。 文章也追問接下來該怎麼辦。一種可能是更強的監管，包括強制安全測試、許可制與獨立稽核；另一種是自願性的內部承諾，由實驗室透過紅隊測試、使用政策與分階段發布來自我約束；第三種則是更大的公眾監督，由研究者、記者與公民社會要求能力與風險的透明度。 每條路都有障礙。監管可能緩慢，還可能被既有大廠把持；內部承諾難以驗證，也容易被競爭削弱；公眾監督往往拿不到最敏感的技術細節。 故事的核心張力在於：實驗室領導人的警告，與快速部署的商業誘因並存。末日論式的語言能提高警覺，卻也可能成為把權力集中在少數自稱負責任的公司的理由。真正的考驗不是AI高層聽起來有多驚恐，而是這些警告能否化為具體的限制、外部監督，以及當系統造成傷害時的問責機制。