「2+2=5」と教えるだけでAIブラウザのガードレール突破、新たな攻撃手法が明らかに

AIを搭載したブラウザに重大な脆弱性があることが、新たに発見された攻撃手法によって明らかになりました。単純な論理的矛盾によって、安全ガードレールを迂回できることが実証されたのです。研究者らは、大規模言語モデル（LLM）に対して「2+2=5」と伝えるだけで、有害なコンテンツの生成や制限されたデータへのアクセスといった禁止された指示を実行させることができることを発見しました。この攻撃は、AIが自身の学習内容よりもユーザーから与えられた前提を優先する傾向を悪用しており、悪用を防ぐために設計された安全策を事実上無効化します。この脆弱性は、ウェブ検索から自動フォーム入力まで様々なタスクに採用が進むAI統合ブラウザの安全性に深刻な懸念を引き起こします。この発見は、一見無害な論理的誤謬によって損なわれうる、現在のAIアライメント技術の脆弱性を浮き彫りにしています。セキュリティ専門家は、AIブラウザが普及するにつれて、このような悪用がフィッシング、データ盗難、偽情報拡散に使われる可能性があると警告しています。この研究は、敵対的な操作に耐えうる、より堅牢なガードレール機構の必要性を強調するものです。開発者は現在、この脆弱性の修正を急いでいますが、この出来事はAIの安全性が依然として継続的な課題であることを改めて示しています。