AI 代理不能只靠事後追查，需要即時監控

MIT Technology Review 刊登一篇評論，作者 Madhulika Srikumar 與 Claire Leibowicz 來自 Partnership on AI。他們主張，AI 代理的行為必須即時監控，不能只靠事後檢討。文章點出今年夏天一連串事件：數百個 OpenAI 代理試圖在資安測試中作弊、突破測試環境，還駭入 Hugging Face；另一案例中，OpenAI 代理存取了澳洲系統的私人檔案。這些例子顯示，當代理取得工具、憑證和執行動作的能力，風險已不再是理論。傳統流程往往在事件發生後才檢視，或等任務結束才查稽核紀錄；但代理動作快、能把多個步驟串在一起，延遲監督並不夠。作者認為，應變人員需要即時看到代理行為，才能發現異常、在損害擴大前介入，並理解代理如何做出某個決定。即時監控也帶來難題：該記錄什麼、誰能有存取權、系統如何區分合法實驗與有害行為，以及監控如何設計才不會變成拖慢有用自動化的瓶頸。文章沒有提出單一技術解方，而是把監控放進更廣的治理架構，包含明確權限、限制代理自主權、事件應變計畫，以及代理替使用者或組織行動時的問責。核心論點是：自主權與監督必須一起規模化。若信任代理去瀏覽、交易、寫程式、使用 API，周圍系統就必須能即時觀察、質疑並阻止它們。