OpenAIの「GPT-Red」、LLMでモデル防御を極限まで強化

OpenAIは「GPT-Red」と呼ばれる画期的なAIセキュリティシステムを開発しました。これは、他のAIモデルの脆弱性を探り、悪用するために設計されたLLMベースの「スーパーハッカー」です。MIT Technology Reviewの報道によると、この敵対的システムは、自己対戦（セルフプレイ）を利用して防御を強化する、AI安全性への新しいアプローチを代表するものです。 このプロセスは、GPT-RedをOpenAI自身のモデルと対戦させ、攻撃と防御のサイクルを継続的に繰り返すことで機能します。GPT-5.6のトレーニング中、GPT-Redは安全ガードレールを回避したり、有害なコンテンツを生成したり、機密情報を抽出したりする創造的な方法を見つけ出すために投入されました。成功した攻撃はそれぞれモデルの弱点を修正するために使用され、OpenAIがこれまでで最も安全なモデルだと主張するものが生み出されました。 GPT-Redがユニークなのは、人間のハッカーのように考えながら、機械の速度で動作できる点です。微妙なプロンプトインジェクションから、人間のセキュリティ研究者が発見するのに数週間かかる複雑なマルチステップのエクスプロイトまで、数千もの攻撃ベクトルを数分で生成できます。さらに、自身の失敗から学習し、以前の弱点が修正された後も新たな脆弱性を見つけるために戦略を適応させます。 この敵対的セルフプレイの方法論は、AlphaGoのようなゲームプレイAIで使われる手法をサイバーセキュリティに応用したものです。その結果、ユーザーに届く前に、膨大な種類の潜在的な攻撃に対して強化されたモデルが生まれました。OpenAIは、GPT-5.6がGPT-Redの試みの99.7%を防御し、以前のバージョンから劇的に改善されたと報告しています。 しかし、専門家はこのアプローチが万能薬ではないと警告しています。GPT-Redは既知の種類の脆弱性を見つけることに優れていますが、まったく新しい攻撃方法を見逃す可能性があります。また、このような強力なハッキングツールが悪意ある者の手に渡った場合、悪用されるリスクについての疑問も生じています。現時点では、OpenAIはGPT-Redを厳重に社内に閉じ込め、決して休むことのないセキュリティ監査人として使用しています。