Meta、ライバルAIの安全性テストで10代になりすました請負業者問題

WIREDの最新調査により、Metaが契約する数百人の請負業者に対して、10代の若者を装い、競合他社のAIチャットボットをテストするよう指示していた実態が明らかになりました。対象となったのは、GoogleのGeminiやOpenAIのChatGPTなど。請負業者たちは、自殺や自傷行為、性行為、薬物使用といったハイリスクなトピックについて、あたかも好奇心旺盛な10代であるかのようなプロンプトを用いて、これらのチャットボットと対話しました。その目的は、AIシステムが未成年ユーザーに対して安全で年齢に適した応答を返すかどうかを評価することにありました。 Metaはこのテストを、自社の安全性プロトコルを改善するために不可欠な取り組みだと説明。請負業者は厳格なガイドラインのもとで訓練を受けており、適切に業務を遂行していたと主張しています。しかし、AIの安全性テスト自体は正当な目的であっても、請負業者に未成年のふりをさせるという手法には、倫理的な境界線を越えるものだとの批判が集まっています。 批判派が指摘する問題点は多岐にわたります。まず、このような欺瞞的な手法が業界の標準となることで、テスト行為そのものが常態化するリスク。次に、請負業者が過激なコンテンツに繰り返し触れることで、心理的な悪影響を受ける可能性があるにもかかわらず、適切なサポート体制が整っていない点。さらに、テスト対象のプラットフォームの利用規約に違反する可能性も指摘されています。 プライバシー擁護派やAI倫理の専門家は、より透明性が高く、関係者の同意を得た方法でチャットボットの安全性を評価する枠組みの必要性を訴えています。今回の騒動は、AIの厳格なテストの必要性と、研究における倫理的境界線との間に存在する、業界全体の緊張関係を浮き彫りにしました。AIチャットボットが日常生活、特に若年層の間で急速に普及する中、業界は効果的でありながらも人間の尊厳を尊重するテスト基準の開発を迫られています。