OpenAI 延攬 AI 末日論者 Paul Christiano 進入基金會董事會

OpenAI 在治理層面做出重大調整，任命 Paul Christiano——一位以對齊（alignment）與安全研究聞名的頂尖 AI 研究員——加入 OpenAI 基金會董事會。Christiano 因屢次公開表達對超級智慧系統可能帶來生存風險的擔憂，常被貼上「AI 末日論者」的標籤，他的加入為組織最高監督層級帶來了深度安全導向的觀點。 他的任命時機，正值全球 AI 社群針對先進模型潛在危險展開激烈辯論的關鍵時刻。Christiano 的研究，特別是在「從人類回饋中強化學習」（RLHF）方面的貢獻，對現代 AI 系統如何被訓練以符合人類意圖，奠定了重要基礎。然而，他的新職位也暗示 OpenAI 的治理方針正轉向更為謹慎，儘管該公司持續推進其技術能力的邊界。 業界觀察家指出，讓一位關注災難性風險的領袖級人物進入董事會，可能會為公司激進的部署時程表踩下煞車。Christiano 先前曾主張，比人類更聰明的 AI 系統可能帶來前所未有的挑戰，他的在場預料將影響關於模型發布、安全測試與長期策略的決策。雖然有人認為這是審慎之舉，但也有人擔心這可能拖慢創新腳步。目前看來，此舉凸顯了一個日益增長的共識：技術能力必須搭配嚴謹的安全監督，尤其是在邁向通用人工智慧（AGI）的競賽日益白熱化之際。