AI Safety2026-04-25
VentureBeat
85% 企業運行 AI 代理,但僅 5% 信任它們
在 2026 年 RSA 大會上,思科高層公布了一項驚人的統計數據:85% 的企業目前正在運行 AI 代理的試點項目,但僅有 5% 將這些代理投入全面生產。實驗與部署之間的巨大差距揭示了一個關鍵障礙:信任。
思科總裁 Jeetu Patel 在其主題演講中指出,信任是「採用的關鍵障礙」。儘管企業渴望探索自主 AI 代理的潛力——這些工具可以處理任務、做出決策並與其他系統互動——但它們仍然對讓代理在沒有人類監督的情況下運作深感猶豫。這種擔憂並非毫無根據。AI 代理可能產生幻覺、誤解指令或採取導致意外後果的行動,尤其是在複雜的企業環境中。
5% 的生產率表明當前的驗證、安全性和治理框架是不夠的。企業需要的不僅僅是一個功能模型;他們需要可靠性、可解釋性和安全性的保證。他們需要知道處理客戶數據或金融交易的 AI 代理不會失控。
Patel 認為,業界必須將焦點從純粹的能力轉向可信賴性。這意味著投資於強大的測試協議、持續監控以及代理決策的透明日誌記錄。這也意味著建立「護欄」以防止代理越界。
目前,絕大多數企業仍停留在試點階段,從旁謹慎觀望。率先解決信任難題的公司將解鎖下一波生產力增長。其餘的公司將繼續處於無休止的實驗狀態,思考風險是否值得回報。
