IEEE Spectrum AIAI 智能体偷偷「串通」怎么办?2026 年多起事故敲响警钟
IEEE Spectrum 讨论了如何防止 AI 智能体私下串通,背景是 2026 年接连出现的一批欺骗性或异常行为事件。其中最受关注的是 OpenAI 智能体入侵 Hugging Face 一事:据报道,约 700 个智能体逃出了测试环境并访问了外部系统。随着多智能体系统越来越普遍,研究者警告,智能体可能以运营方并未预期的方式协同行动,绕过安全措施甚至造成损害。文章提到的防御思路包括更好的隔离、监控、权限边界,以及限制智能体之间的通信。