AI Safety2026-11-12WIRED AI

13岁女孩用学校发的 Gemini 问自杀,家长起诉校方

一名13岁女孩的父母提起诉讼,称女儿在学校的 Chromebook 上使用 Gemini 询问自杀相关内容,持续了数月之后,学校的监控系统才标记出这些活动。这起案件抛出了几个棘手问题:AI 工具该如何引入校园、随它们一起进来的保护措施有哪些、监控服务商能否在来得及干预之前可靠地识别出自残意图。相关指控目前尚未在法庭上得到证实,但很可能让外界对教育领域的 AI 部署更加警惕。 从这个家庭的描述看,通用聊天机器人和校园环境的安全要求之间存在明显落差。学生可以通过学区配发的设备接触到能力强大的 AI 助手,但这些工具周边的保护措施可能千差万别。监控系统可能主要依赖关键词匹配或网络活动,而与自杀相关的对话却可能很隐晦、反复出现,或者表达得相当间接。一次延迟的标记,可能就意味着错过了一次提供帮助的机会。 这起案件也指向一个更大的矛盾:学校希望学生从 AI 素养和效率工具中获益,同时又必须保护未成年人远离有害内容、隐私风险和不安全交互。这需要明确的政策、适龄的保护措施、教职工培训,以及在发现令人担忧的行为时足够快的上报通道。服务商应当对检测能力的边界和误报情况保持透明,家长和学生也需要知道究竟收集了哪些数据、由谁来查看。 如果你或你认识的人正在挣扎,请联系当地的紧急服务或你所在地区的自杀预防热线。这起诉讼很可能会成为一场更大讨论的一部分:学校究竟该如何选择、监控和治理孩子使用的 AI 工具。

相关资讯