AI Safety2026-11-12WIRED AI

13歲女學生疑用校園 Gemini 問輕生 家長提告

一名 13 歲女孩的父母提起訴訟,指她曾在學校配發的 Chromebook 上用 Gemini 詢問輕生相關問題,持續數月後,學校的監控系統才標記這項活動。案件引發外界對校園導入 AI 工具的方式、伴隨的防護措施,以及監控廠商能否可靠辨識自傷意圖並及時介入的質疑。這些指控尚未在法庭上獲得證實,但很可能讓教育場域的 AI 部署受到更嚴格檢視。 家屬的說法顯示,一般用途聊天機器人和學校環境的安全要求之間存在落差。學生可能透過學區配發的裝置使用功能強大的 AI 助理,但這些工具周邊的保護措施差異很大。監控系統可能偏重關鍵字比對或網路活動,但與輕生有關的對話可能很隱晦、反覆出現,或用間接方式表達。若警示延遲,可能就錯過提供支持的時機。 這起案件也點出更廣泛的拉扯。學校希望學生能從 AI 素養和生產力工具中受益,同時也必須保護未成年人免受有害內容、隱私風險和不安全互動的傷害。這需要清楚的政策、適齡防護、教職員訓練,以及在發現令人擔憂的行為時快速通報處理的流程。廠商應對偵測限制和誤報保持透明。家長和學生也需要知道蒐集了哪些資料,以及由誰審閱。 如果你或身邊的人正陷入困境,請聯絡當地緊急服務或所在地區的自殺防治熱線。這起訴訟很可能成為更大討論的一部分:學校如何選擇、監控與治理兒童使用的 AI 工具。

相關資訊