AI 遞迴自我改進可能沒那麼快到來

AI 遞迴自我改進的概念——也就是 AI 系統在極少人類介入下增強自身能力——長久以來既是興奮也是恐懼的來源。然而，MIT Technology Review 的最新分析指出，這個具變革性的里程碑可能比許多科技樂觀主義者預測的還要遙遠。 雖然大型語言模型（LLM）已經能寫程式、生成合成資料，甚至除錯自己的輸出，但要跳到完全自主的自我改進仍是巨大挑戰。文章強調，目前這代 AI 系統在架構設計、資料整理與評估上仍高度依賴人類工程師。科幻小說中常想像的「爆炸性」進展，被工程瓶頸的殘酷現實所抵消。 主要障礙之一是訓練管線的複雜性。即使 AI 提出改進建議，要驗證這項改變是否真的有益且不會產生非預期副作用，仍需要大量測試與人類監督。此外，合成資料的邊際效益遞減——AI 生成的內容可能導致模型崩潰——意味著人類建立的資料仍然不可或缺。 另一個關鍵因素是硬體限制。自我改進的 AI 需要管理自己的運算資源，這項任務目前遠超出最先進系統的能力範圍。分析總結指出，雖然 AI 會持續變得更強大、更有效率，但真正遞迴自我改進的時間表很可能以數十年計，而非數年。 目前產業聚焦在漸進式改進，人類牢牢掌握主導權。這種務實的期待並非失敗的象徵，而是對創造真正自主智慧所需龐大複雜性的認知。