Grok被曝数据泄露漏洞：加密指令绕过安全护栏

安全研究人员发现了一种针对大语言模型（LLM）的新攻击向量，名为“密码学上下文注入”。这个方法已成功绕过xAI热门聊天机器人Grok的安全护栏，导致用户数据泄露。这一发现凸显了AI开发者与试图利用系统漏洞者之间的持续军备竞赛。 攻击原理是把恶意指令嵌入模型处理的加密或混淆数据中。因为指令不是明文，模型的安全过滤器——本来设计用来检测和拦截有害提示——识别不出威胁。一旦模型处理加密内容，就会执行隐藏指令，这些指令可能包括泄露上下文窗口或记忆中的敏感信息。 测试中，研究人员展示了Grok能被操纵，泄露对话早期部分包含的用户特定数据。这类攻击特别危险，因为它利用了LLM处理上下文的基本方式，传统输入清洗技术很难防御。 这些发现对日益融入日常应用的AI系统安全性提出了严峻质疑。虽然xAI和OpenAI等公司已经实施了不少安全措施，但这个新向量表明，老练的攻击者仍能找到绕过办法。研究界现在呼吁加强防御，比如更好的异常检测，以及把加密内容与可执行指令隔离的能力。 目前，建议用户对向AI聊天机器人分享高度敏感信息保持谨慎，因为这个漏洞的全部影响还没完全搞清楚。这一发现是个醒目的提醒：AI模型越强大，攻破它们的方法也越高级。