DeepMind 擔憂數百萬個 AI 代理的風險

Google DeepMind 正在資助新的研究，以探索數百萬個 AI 代理同時在線上互動所構成的潛在危險。DeepMind 的 AGI 安全與對齊研究總監 Rohin Shah 警告，自主代理的大規模普及可能引入當前安全框架無法處理的無法預見風險。隨著 AI 代理變得更加強大且普及，它們可能開始以複雜且不可預測的方式相互互動——可能導致連鎖故障、協調問題或難以控制的湧現行為。Shah 強調需要採取主動安全措施，包括專為多代理場景設計的穩健測試環境、對齊協議及監控系統。該研究旨在識別當數千或數百萬個代理在共享數位空間中運作時可能出現的故障模式，例如市場操縱、資源爭奪或無意的勾結。DeepMind 的這項倡議反映了 AI 社群內部日益增長的認知，即安全研究必須與技術能力同步發展。透過現在資助這項工作，DeepMind 希望在自主代理變得無所不在之前，制定出能夠防止災難性後果的指導方針與防護措施。這些發現可能影響未來大規模部署 AI 的法規與最佳實務。