OpenAI 打造「超級駭客」GPT-Red，用 AI 抓 AI 漏洞

OpenAI 開發出一套名為「GPT-Red」的革命性 AI 安全系統，它本質上是一個由大型語言模型驅動的「超級駭客」，專門用來探測並利用其他 AI 模型的弱點。根據《MIT 科技評論》的報導，這套對抗式系統代表了 AI 安全領域的全新思維，透過「自我對弈」的方式，不斷打造更穩固的防禦機制。 其運作原理是讓 GPT-Red 與 OpenAI 自家的模型進行持續的攻防循環。在訓練 GPT-5.6 的過程中，GPT-Red 被賦予任務，要找出各種創意方法來繞過安全護欄、產生有害內容或竊取敏感資訊。每一次成功的攻擊，都會被用來修補模型的弱點，最終打造出 OpenAI 宣稱有史以來最安全的模型。 GPT-Red 的獨特之處在於它能像人類駭客一樣思考，但速度卻是機器等級。它可以在幾分鐘內產生數千種攻擊向量，從微妙的提示注入（prompt injection）到複雜的多步驟漏洞利用，這些攻擊手法可能需要人類安全研究人員花費數週才能發現。更厲害的是，這套系統還會從失敗中學習，在舊漏洞被修補後，立即調整策略尋找新的突破口。 這種「對抗式自我對弈」的方法，與 AlphaGo 等遊戲 AI 所使用的技術類似，但應用場景轉移到了網路安全領域。其結果是，模型在接觸到真實用戶之前，就已經接受了對抗大量潛在攻擊的「實戰演練」。OpenAI 報告指出，GPT-5.6 成功抵擋了 GPT-Red 99.7% 的攻擊嘗試，表現遠優於先前的版本。 然而，專家也警告，這種方法並非萬靈丹。雖然 GPT-Red 擅長找出已知類別的漏洞，但它可能會忽略全新的攻擊手法。此外，這項技術也引發了新的疑慮：如此強大的駭客工具一旦落入壞人之手，後果將不堪設想。目前，OpenAI 將 GPT-Red 嚴格限制在內部使用，將其視為一個永不休息、勤奮不懈的安全稽核員。