OpenAI搞了个“超级黑客”GPT-Red，专治AI安全漏洞

OpenAI正式发布GPT-Red——一套基于自我对弈机制的自动化红队测试系统，旨在全面提升AI模型对提示注入等对抗性攻击的防御能力。这套系统的运作方式相当“硬核”：它模拟出一个能力超强的“黑客”，不断向GPT-5.6发起攻击，试图绕过其安全过滤器；而模型在一次次被“揍”的过程中，被迫学会识别并抵御这些恶意输入。自我对弈的妙处在于，攻击策略可以持续迭代进化，防御机制也随之动态升级，形成一个永不停止的攻防循环。相比传统依赖人类红队专家手动测试的方式，GPT-Red不仅大幅降低了人力成本，还能覆盖更广泛的潜在攻击面。OpenAI认为，这标志着AI安全对齐迈出了实质性一步——当攻击手法日新月异时，模型本身必须拥有“以变应变”的能力，而GPT-Red正是实现这一目标的关键工具。