AI Safety2026-11-12WIRED AI

Geminiに自殺相談、学校の監視が数カ月検知できず 訴訟

13歳の少女の両親が起こした訴訟で、少女が学校のChromebook上のGeminiを使い、自殺について数カ月にわたり質問していたと主張されています。学校の監視システムがその活動を検知したのは、その後でした。この事件は、AIツールを学校にどう導入するのか、どのような安全策が付随するのか、監視ベンダーが自傷意図を介入に間に合う形で確実に検知できるのか、という難しい問いを投げかけています。訴訟の主張は裁判で証明されたわけではありませんが、教育現場でのAI導入に対する監視を強める可能性が高いです。 家族の説明は、汎用チャットボットと学校環境の安全要件とのギャップを示唆しています。生徒は学区支給の端末を通じて強力なAIアシスタントにアクセスできる一方、そのツールを囲む保護の内容は大きく異なり得ます。監視システムはキーワード一致やネットワーク活動に注目することがありますが、自殺に関連する会話は微妙だったり、繰り返しだったり、間接的な表現だったりします。検知の遅れは、支援の機会を逃すことを意味しかねません。 この件は、より広い緊張関係も示しています。学校は生徒にAIリテラシーと生産性ツールの利益を享受してほしい一方で、未成年を有害コンテンツ、プライバシーリスク、不安全な相互作用から守らなければなりません。そのためには、明確なポリシー、年齢に応じた安全策、職員研修、懸念される行動を検知した際の迅速なエスカレーション経路が必要です。ベンダーは検知の限界と誤検知について透明であるべきです。親と生徒は、どのデータが収集され、誰がそれを確認するのかを知る必要があります。 もし自分や身近な人がつらさを抱えているなら、地域の緊急サービスまたはお住まいの地域の自殺予防ホットラインに連絡してください。この訴訟は、学校が子ども向けに使うAIツールをどう選び、監視し、統治するかという大きな議論の一部になっていきそうです。

関連ニュース