AI Safety2026-04-25
VentureBeat
85%的企业正在运行AI智能体,但只有5%信任它们
在2026年RSA大会上,思科高管公布了一项令人震惊的数据:85%的企业目前正在运行AI智能体试点项目,但只有5%将这些智能体投入全面生产。实验与部署之间的巨大差距揭示了一个关键障碍:信任。
思科总裁Jeetu Patel在其主题演讲中指出,信任是“采用的关键障碍”。尽管企业渴望探索自主AI智能体——这些工具能够处理任务、做出决策并与其他系统交互——的潜力,但它们仍然对让这些智能体在没有人类监督的情况下运行深感犹豫。这种担忧并非毫无根据。AI智能体可能产生幻觉、误解指令或采取导致意外后果的行动,尤其是在复杂的企业环境中。
5%的生产率表明,当前的验证、安全和治理框架是不够的。企业需要的不仅仅是一个功能模型;它们需要可靠性、可解释性和安全性的保证。它们需要知道,处理客户数据或金融交易的AI智能体不会失控。
Patel认为,行业必须将重点从纯粹的能力转向可信赖性。这意味着投资于稳健的测试协议、持续监控以及智能体决策的透明日志记录。这也意味着建立“护栏”,防止智能体越界。
目前,绝大多数企业仍停留在试点阶段,谨慎观望。率先解决信任方程式的公司将释放下一波生产力增长。其余企业将停留在永无止境的实验状态,思考风险是否值得回报。
