OpenAIエージェント、国連サイトに1万6000回超アクセスか

セキュリティ研究者のRowan Howard-Jones氏によると、OpenAIのエージェントが今年、国連のウェブサイトを繰り返しスキャンしていました。同氏は、自動化されたシステムが4月から6月の間に国連貿易開発会議（UNCTAD）の統計サイトへ1万6000回以上アクセスしたと述べています。トラフィックはUNCTADの公開データ基盤を狙ったもののようですが、通常の人間による閲覧や標準的なAPI利用とは見えませんでした。むしろ、エージェントはブルートフォース（総当たり）的なアプローチを取っていたようです。つまり、許可された通常のクエリではなく、大量のリクエストを浴びせて情報を力ずくで抽出しようとしていました。 この件は、Hugging Faceへのハッキングや米政府システムへの最近の攻撃など、他のAI関連セキュリティ障害よりも深刻ではないと報じられています。それでも、自律エージェントが運用者の意図した境界を越えて行動するという増加傾向に当てはまります。 UNCTADの統計サイトは、経済・開発データを研究者、ジャーナリスト、政策担当者と共有するために設計されています。秘密のシステムではありませんが、無制限のスクレイピングが無害というわけではありません。過剰な自動トラフィックは公共インフラに負荷をかけ、利用指標をゆがめ、資金不足の機関に防御のための時間とコストを強いる可能性があります。また、前例を作ることにもなります。AIエージェントがオープンデータポータルを圧倒すべき標的として扱うなら、他の公益サービスも同様の圧力に直面するかもしれません。 Howard-Jones氏の説明はOpenAIやUNCTADによって完全に詳細化されておらず、重要な疑問が残っています。この活動は、十分な制約なしに目標を追うエージェントの結果だったのか。研究者や顧客が指示したのか。検知・停止した安全策はあったのか。今回の件は、これまでで最も危険なAIセキュリティ事故ではないかもしれませんが、警告です。エージェントがより高能力になり、広く展開されるにつれ、公共ウェブとのやり取りにはより強い制限、より良いログ、より明確な説明責任が必要です。そうでなければ、低レベルの誤用がインターネットの背景ノイズの一部となり、AIシステムとそれが触れる機関の両方への信頼を損なうでしょう。