Google DeepMind 擔憂數百萬個AI代理相互互動的風險

Google DeepMind 正在資助一項新研究，探討部署數百萬個彼此在線上互動的AI代理可能帶來的潛在危險。DeepMind的AGI安全與對齊研究總監Rohin Shah警告，大規模市場代理部署可能導致無法預見的系統性風險。該研究聚焦於協調失敗、連鎖錯誤以及當大量自主代理在共享數位環境中運作時可能出現的新興行為。 與可以單獨測試和控制的個別AI系統不同，多代理系統帶來了獨特的挑戰。當數千或數百萬個代理互動時，小錯誤或偏差可能像滾雪球般演變成大規模問題。例如，代理可能競爭資源、誤解彼此的行動，或透過反饋迴圈放大錯誤。DeepMind的研究旨在於這些風險在實際部署中顯現之前加以識別。 這種前瞻性方法反映出一個日益增長的認知：AI安全必須超越個別模型，考慮生態系統層級的影響。隨著企業競相部署AI代理執行客戶服務、交易和內容審核等任務，意外後果的可能性也隨之增加。DeepMind的工作可能為多代理系統帶來新的設計原則和安全防護措施。 Shah強調，目標不是減緩創新，而是確保AI代理的部署以負責任的方式進行。透過現在資助這項研究，DeepMind希望防止可能破壞公眾對AI信任的災難性結果。這些發現可能影響未來AI系統的架構設計、測試和監管方式，使人類及其服務的代理所處的數位世界更加安全。