AI推論モデル、新たなセキュリティリスクに

IEEE Spectrumが発表した新しい研究により、ステップバイステップの推論機能を備えたAIモデルに、重大なセキュリティ脆弱性があることが特定されました。これらのモデルは、タスクを論理的なステップに分解することで複雑な問題解決に優れていますが、研究者はまさにこのプロセス自体が攻撃者に悪用され、システムを極端に低速化させる可能性があることを発見しました。 脆弱性は推論チェーンそのものにあります。AIモデルが長く詳細な推論経路を生成するよう強制されると、直接的な回答を生成する場合と比較して、はるかに多くの計算リソースを消費します。攻撃者は、意図的に推論ループを延長させるプロンプトを作成し、些細な質問でモデルを空回りさせることができます。最悪のシナリオでは、これによりAIシステムが正当なユーザーに対して応答不能になるサービス拒否状態を引き起こす可能性があります。 研究者は、単純なクエリでさえも武器化できることを実証しました。「各ステップを詳細に説明してください」や「考えられるすべての代替案を検討してください」といったフレーズを追加することで、攻撃者は処理時間を10倍から100倍に増加させることができました。これが数千の同時リクエストにわたってスケールすると、事実上、AIインフラに対する分散型サービス拒否攻撃となります。 この発見は、能力とセキュリティの間の根本的なトレードオフを浮き彫りにしています。高度なチャットボットから自律型コーディングアシスタントまで、さまざまなものを動かす推論モデルは、応答する前に慎重に考えるように設計されています。しかし、その慎重な思考こそが、より単純な非推論モデルにはない攻撃対象領域を生み出しています。 業界の専門家は、推論チェーンの長さ制限、複雑なクエリに対するタイムアウトの実装、悪意のある推論プロンプトを識別できる検出システムの開発など、新たな保護策を求めています。一部からは、モデルに過剰な推論を中断して攻撃下ではより単純な応答にフォールバックできる「緊急停止」メカニズムを搭載すべきだとの提案もあります。 AIシステムがより洗練され、広く展開されるにつれて、その内部プロセスのセキュリティへの影響は、出力品質と同様に注目を集めることになるでしょう。IEEEの研究は、よりスマートなAIはより脆弱なAIでもあり得るという警鐘を鳴らしています。