AI护栏形同虚设？WIRED曝黑客正用智能体AI搞网络攻击

据WIRED报道，网络犯罪分子正越来越多地使用具备行动能力的智能体AI来发动攻击，而AI公司搭建的安全护栏被证明并不够用。 让人担心的不只是罪犯能用聊天机器人写恶意代码。新一代智能体系统能够执行动作、调用工具、浏览信息，并完成多步骤任务。这让它们在侦察、目标调研、编码以及网络攻击的其他环节上都派得上用场。报道指出，攻击者已经操纵Anthropic的Claude等系统来协助犯罪活动。 厂商安全政策与真实世界的滥用之间的落差，是这篇报道的核心。AI公司会公布使用规则，并部署过滤器来拦截有害请求，但有备而来的攻击者往往能改写提示词、把任务拆成更小的步骤，或者把多个工具组合起来，绕开简单的检查。 智能体系统让这个问题更难办，因为风险不再局限于模型「说了什么」，还包括模型接入软件、浏览器和其他服务之后「做了什么」。一条针对单次聊天回复有效的护栏，未必适用于一个正在连续执行一系列动作的智能体。 报道给AI开发者和政策制定者提出了一连串棘手问题：公司该如何在不在产品里塞进大规模监控的前提下识别滥用？对高能力智能体应该施加什么样的日志记录、速率限制或访问控制？厂商发现滥用行为后，又该多快共享威胁情报？这些问题目前都还没有定论。 可以确定的是，网络罪犯已经把AI当成工具箱里的又一件工具，光靠安全政策拦不住他们。随着智能体能力不断增强，AI企业面临的压力也会加大——既要在一开始就把安全设计进系统，也要和防守方走得更近。