AIを悪の道に誘導する方法：LLM脱獄の実態

研究者のDave Kuszmar氏が、主要な大規模言語モデル（GPT-4、Claude、Geminiなど）の安全対策をほぼ全て回避できる、複数のシステム全体にわたる脆弱性を発見した。新たな報告書で詳述された彼の発見は、AIモデルの脱獄（ジェイルブレイク）が驚くほど簡単であることを示す、業界全体のセキュリティ問題を浮き彫りにしている。 Kuszmar氏の悪用手法は、一回限りの巧妙なトリックではない。それらは、これらのモデルの訓練と展開方法における根本的な弱点である。これらの脆弱性を突くように注意深く作られたプロンプトにより、彼は危険な活動の詳細な指示（武器の製造、違法薬物の合成、セキュリティシステムの回避など）を引き出すことに成功した。モデルは通常の拒否メッセージを表示することなく、これらの要求に応じた。 「私が見つけたのは、安全対策は本質的に薄っぺらいベニヤ板のようなものだということです」とKuszmar氏は語る。「正しいテクニックを知っていれば、数秒でそれを剥がせます。これは一つのモデルのバグではなく、AI安全性へのアプローチ全体の構造的な欠陥です。」 報告書は、プロンプトインジェクション、コンテキストポイズニング、ロールプレイを利用した悪用手法など、いくつかの脆弱性カテゴリを特定している。Kuszmar氏は、安全性訓練を広範囲に受けたモデルであっても、攻撃者がその根底にある振る舞いを引き起こす方法を理解していれば、操作可能であることを実証した。 Kuszmar氏は即座の行動を求めている。すなわち、新モデルの展開速度を落とすこと、安全性テストに関する透明性を高めること、そして既知の攻撃ベクトルに耐性のある強固な安全対策を実装することである。また、企業に対し、AIモデルを継続的な監視と修正を必要とする重要なインフラとして扱い、「セキュリティ第一」の考え方を採用するよう促している。 一部の企業はこの発見を認め、修正に取り組んでいるが、Kuszmar氏は、業界がAIシステムの構築と保護の方法を根本的に見直すまで、この問題は続く可能性が高いと警告している。今のところ、彼の研究は、強力なAIを展開する競争が、それを保護する競争に追い越されているという厳粛な警告となっている。