Anthropic 推 AI 安全法案，模型發布要法院點頭

根據 TechCrunch 報導，Anthropic 提出一項 AI 安全法案，若某個模型可能造成超過 50 人死亡，就可阻止其發布。提案被包裝成防範危險 AI 系統的方式，但報導說，法案也會禁止聯邦機構在未經法官許可下阻止模型發布。 這個設計是整起報導的核心矛盾。一邊是法案將建立高風險的安全門檻，給監管者在模型送達大眾前介入的工具；另一邊則要求司法批准，可能在速度很重要的時刻拖慢緊急行動，並加上法律限制。 提案因此反映出政府該如何監管先進 AI 的更大辯論。支持法院審查的人可能主張，這能避免機構任意決定，並在公司產品受影響時確保正當程序。批評者則可能認為，門檻難以定義、潛在傷害的證據常不確定，而且等待法官可能讓防護措施在危機中太慢。 50 人門檻也可能受到檢視。估算一個模型可能造成多少人死亡，並不是簡單的技術工作；法案需要一套流程，讓這項判斷具有可信度。報導未提供完整立法文本，因此誰做初步判定、法院會適用什麼標準等細節仍不清楚。 儘管如此，這則報導仍有意義，因為它顯示一家領先的 AI 安全公司直接參與政策設計，也說明為風險難以事先衡量的系統制定規則有多困難。隨著 AI 監管辯論持續，這項獲 Anthropic 支持的提案，可能同時被引用為嚴肅的安全努力，以及對法律程序與緊急應變的警示。