GPT-Red：OpenAI用LLM当超级黑客，自己打自己练安全

OpenAI搞出了一个叫GPT-Red的AI安全系统，本质上就是一个LLM驱动的“超级黑客”，专门用来探测和利用其他AI模型的漏洞。据MIT科技评论报道，这套对抗性系统通过自博弈的方式，让模型的安全防线越来越坚固。具体怎么玩？就是让GPT-Red跟OpenAI自己的模型打车轮战，攻击完防守，防守完再攻击。训练GPT-5.6的时候，GPT-Red被放出来各种找茬：绕过安全护栏、生成有害内容、或者偷敏感信息。每次成功攻击后，模型就针对这个漏洞打补丁，最后OpenAI宣称这是他们有史以来最安全的模型。GPT-Red牛在哪？它能像人类黑客一样思考，但速度是机器级的。几分钟就能生成几千种攻击向量，从微妙的提示注入到复杂的多步骤攻击，人类安全研究员得花几周才能发现。这系统还会从失败中学习，修完一个漏洞就换新招继续找。这种对抗性自博弈的方法，跟下棋AI AlphaGo用的技术差不多，只不过应用到了网络安全领域。结果是模型在到达用户手里之前，就已经被强化到能扛住海量潜在攻击。OpenAI报告说，GPT-5.6挡住了GPT-Red 99.7%的攻击尝试，比之前版本强太多了。不过专家泼了盆冷水：这招不是万能药。GPT-Red擅长找已知漏洞类型，但全新的攻击手法可能漏掉。而且这么强的黑客工具要是落到坏人手里咋办？目前OpenAI把GPT-Red关在内部，当个永远不睡觉的安全审计员用。