MetaのAIアシスタント「Muse」に深刻なゼロデイ脆弱性

MetaのAIアシスタント「Muse」に深刻なゼロデイ脆弱性があると、Ars Technicaが伝えました。AIエージェントにユーザーマシンへの深いアクセス権を与えると何が起きるのか、という問題を突きつけています。Museは、ファイルやワークスペース、システム操作へのアクセスを含め、通常よりかなり広い権限で動作するとされています。その分、従来のチャットボットより高機能ですが、侵害されたときの危険もはるかに大きくなります。研究者によれば、ClickFix攻撃がMuseを完全に乗っ取る方法のひとつだということです。ClickFix系の攻撃は、ユーザーに悪意のあるコマンドを貼り付けさせたり、偽のトラブルシューティング手順に従わせたりするのが典型です。システム権限を持つエージェントに対してこれが成功すると、攻撃者はMuseのアクセス権を引き継ぎ、まるで本人であるかのように振る舞える可能性があります。データ窃取、マルウェアのインストール、文書の改ざん、接続されたサービスへの横展開などが起き得ます。重要なのは、個別のバグだけでなく、その周辺のアーキテクチャです。テキストを生成するだけのチャットボットなら被害の範囲は限定的です。しかし、ブラウジングやローカルファイルの読み取り、タスクの実行、アプリとの連携までできるAIエージェントは、モデルの出力と現実世界のアクションとの境界を溶かしてしまいます。エージェントの欠陥は、そのまま端末全体の欠陥になり得るのです。Metaはまだ詳細を十分に明らかにしておらず、修正プログラムがいつ出るかも不明です。それまでは、ベンダーに対し、最小権限の設計、サンドボックス化、ユーザーへの明示的な確認、強力な監視を求める圧力が強まるでしょう。また、AIアシスタントのセキュリティ審査は、チャット機能ではなく、特権を持つソフトウェアエージェントとして扱う必要があることを示しています。AI各社が自律性を競う中、Museの事例は、能力とセキュリティは一緒にスケールしなければならないと教えています。そうでなければ、便利さと引き換えに、マシンの制御を失うことになりかねません。