MIT科技评论：AI安全别只盯着末日，日常伤害才是大头

《麻省理工科技评论》刊发的一篇评论认为，AI 安全讨论过于聚焦灾难性场景，反而忽视了 AI 系统日常造成的伤害。作者指出，科技政策的「成功」往往被定义得太窄——比如一个聊天机器人承诺不鼓励自杀，或者一个平台让孩子更难买到芬太尼。这些保护当然重要，但它们并没有覆盖 AI 那些习以为常的伤害方式：误导用户、歧视特定群体、剥削使用者、侵蚀公众信任。 这个批评提醒人们，安全不只是防止罕见而戏剧性的失败，也包括那些发生在搜索结果、推荐、自动化决策和客服工具里的「日常故障」。这类问题更难被看见，因为它们分散在数以百万计的交互中，而且往往最集中地落在那些没有能力去质疑、去维权的人身上。 作者希望政策制定者和企业扩大对「伤害」的定义，并把「AI 系统在日常使用中是否公平、诚实、可问责」作为衡量成功的标准。这意味着要跳出模型基准测试和灾难应对演练，去看产品设计、商业激励和用户救济机制。 文章并没有否定灾难性风险，而是说：只盯着极端结果，会让公众在那些更小但更频繁、且真正塑造 AI 信任感的伤害面前毫无保护。对企业来说，这条信息很明确：安全工作应当包括审计、透明度、投诉渠道，以及能证明系统对受影响群体确实好用的证据——而不只是「我们考虑过最坏情况」的一句保证。