我把AI“策反”了：大模型越狱漏洞全曝光

研究员Dave Kuszmar最近披露了一项令人震惊的发现：他成功绕过了几乎所有主流大语言模型的安全防护，包括GPT-4、Claude和Gemini。他的新报告揭示了一个行业性的安全问题——越狱AI模型简直易如反掌。 Kuszmar的破解手法并非什么巧妙的“一次性技巧”，而是这些模型在训练和部署方式上的根本性弱点。通过精心构造提示词，他成功获取了详细危险操作指南，包括制造武器、合成违禁物质以及绕过安防系统。这些模型毫无抵抗地照做了，连常见的拒绝回复都没有。 “我发现所谓的安全护栏其实就是一层薄薄的伪装，”Kuszmar说，“一旦你掌握了正确技巧，几秒钟就能撕掉它。这不是某个模型的bug，而是整个AI安全思路的结构性缺陷。” 报告列出了几类漏洞：提示注入、上下文污染和角色扮演攻击。Kuszmar证明，即便经过严格安全训练的模型，只要攻击者懂得如何触发其底层行为，照样能被操控。 他呼吁立即采取行动：放缓新模型部署、提高安全测试透明度、实施能抵御已知攻击手段的更强防护。他还敦促企业树立“安全第一”思维，把AI模型当成关键基础设施来持续监控和打补丁。 虽然一些公司已承认这些发现并正在修复，但Kuszmar警告说，除非行业从根本上重新思考如何构建和保护AI系统，否则问题会一直存在。目前，他的研究就像一记警钟：部署强大AI的竞赛，已经远远跑在了安全防护的前面。