OpenAI 推出 GPT-Red：用「自我對戰」強化 AI 安全防護

OpenAI 正式發表 GPT-Red，這是一套自動化的紅隊測試系統，核心概念是透過「自我對戰」來強化 AI 模型的安全性與強固性，特別針對提示注入（prompt injection）以及其他對抗性攻擊。 具體做法是讓 OpenAI 最新的模型 GPT-5.6 與這個模擬出來的「超級駭客」進行反覆攻防。在訓練過程中，GPT-Red 會不斷生成新的攻擊策略，而 GPT-5.6 則從每次交手中學習如何更有效地抵禦這些惡意輸入，從而繞過安全過濾器。 這種自我對戰的設計，讓防禦機制能夠動態演進，持續跟上攻擊手法的演變。OpenAI 表示，GPT-Red 不僅大幅減少了對人類紅隊測試人員的依賴，還能更全面地覆蓋潛在的弱點。這項技術被視為 AI 對齊（AI alignment）與網路安全領域的重大進展，代表一種更積極主動的 AI 安全策略。