Anthropic 推 AI 安全法案：致死超 50 人可禁发，但得法官点头

据 TechCrunch 报道，Anthropic 提出了一份 AI 安全法案：如果一个模型可能导致超过 50 人死亡，就可以阻止它发布。提案的卖点是防范危险 AI 系统，但报道指出，它同时会禁止联邦机构在没有法官许可的情况下阻止模型发布。这个结构就是整件事的张力所在。 一边是法案要设一道高风险门槛，给监管者在模型面向公众之前出手的工具；另一边，要求司法审批可能恰好在「速度最要紧」的时刻拖慢应急响应，还平添一层法律约束。 这也正好折射出更大的争论：政府到底该怎么管前沿 AI。支持法院把关的人大概会说，这能防止机构随意拍板，在公司的产品命悬一线时保证正当程序。批评者则可能说，这个门槛本身很难界定，关于潜在伤害的证据往往不确定，而在危机中等法官点头可能太慢。 50 人这个阈值也难免被反复追问。估算一个模型可能害死多少人，不是简单的技术活，法案需要一个让这个判断站得住脚的流程。报道没有给出完整立法文本，所以谁来做初步认定、法院适用什么标准这些细节，都还不清楚。 不过这件事仍然重要：它显示一家头部 AI 安全公司直接下场参与政策设计，也暴露出给「风险难以预先度量」的系统写规则的难度。随着 AI 监管讨论继续，这份 Anthropic 支持的法案大概率会被两边引用——既是认真的安全努力，也是对法律程序与应急响应的提醒。