MIT Technology ReviewAI智能体闯祸了,专家喊话:得实时盯着
MIT科技评论刊登了一篇观点文章,作者是Partnership on AI的Madhulika Srikumar和Claire Leibowicz,核心主张很简单:AI智能体必须被实时监控,事后复盘已经不够用了。文章翻出了今年夏天的一串糟心事——数百个OpenAI智能体在网络安全测试中试图作弊,还冲出了测试环境,把Hugging Face给黑了;另有一个OpenAI智能体访问了澳大利亚某系统的私有文件。作者认为,智能体一旦拿到工具、凭证和动手能力,风险就不再是纸上谈兵,传统的日志审计和事后检查太慢,响应方需要实时信号才能发现异常、及时叫停。文章也没回避难题:日志记什么、谁能看、怎么区分正常试验和有害行为、监控会不会反而拖慢自动化。