OpenAI、自己対戦型AI安全システム「GPT-Red」

OpenAIは、プロンプトインジェクションやその他の敵対的攻撃に対するAIの安全性と堅牢性を高めるために、自己対戦（セルフプレイ）を利用した自動レッドチーミングシステム「GPT-Red」を発表しました。最新モデルであるGPT-5.6を、このシミュレートされた「スーパーハッカー」と訓練することで、OpenAIはセーフティフィルターを回避しようとする悪意のある入力に対するモデルの防御力を大幅に向上させました。自己対戦アプローチにより、システムは新しい攻撃戦略を継続的に生成し、そこから学習することができ、動的で進化する防御メカニズムを生み出します。これは、AIのアライメント（価値整合）とサイバーセキュリティにおける重要な前進であり、人間のレッドチーマーの必要性を減らしつつ、潜在的な脆弱性をより包括的にカバーすることを可能にします。GPT-Redは、攻撃技術が進化してもモデルが安全であり続けることを保証する、先手を打ったAI安全対策を表しています。