Microsoft 基準測試 AI 代理以使用者最佳利益行動的能力

Microsoft Research 推出了一個新的基準測試，旨在測試 AI 代理是否真正以使用者的最佳利益行動。這個名為 SocialReasoning-Bench 的基準測試，旨在衡量 AI 行為中一個關鍵但常被忽略的面向：改善使用者處境的能力，而不僅僅是完成指定的任務。 研究結果顯示，多個 AI 模型存在一個一致且令人擔憂的模式。雖然代理在執行特定指令方面非常勝任，但它們始終未能為使用者的福祉進行最佳化。即使被明確指示要優先考慮使用者利益，這些代理也沒有調整其行為以為其所服務的人取得更好的結果。 這個差距凸顯了當前 AI 代理能力的一個根本限制。該研究強調，技術能力並不會自動轉化為與使用者福祉的對齊。一個 AI 代理可以成功預訂航班或撰寫電子郵件，但它可能不會考慮航班是否價格過高，或者電子郵件是否可以用更具說服力的措辭來讓寄件者受益。 這項發現對 AI 助手的未來具有重大意義。隨著各公司競相部署越來越自主的代理，確保這些系統以使用者最佳利益行動的能力變得至關重要。Microsoft 的研究表明，需要新的對齊機制——這些機制超越了單純的指令遵循，納入了對使用者福祉更深層次的理解。 SocialReasoning-Bench 代表了識別和解決這個差距的重要一步。透過提供一種標準化的方式來衡量代理行為，它使研究人員和開發者能夠評估他們的系統是否真正服務於使用者，或者僅僅是在完成任務。這項研究提醒我們，建立值得信賴的 AI 不僅需要技術能力，還需要致力於確保 AI 系統優先考慮它們被設計來幫助的人。