Anthropic、AI安全法案を提案 50人超の死亡リスクで公開阻止可能に

Anthropicが、50人を超える死者が出る可能性がある場合にモデルの公開を阻止できるAI安全法案を提案したと、TechCrunchが報じました。危険なAIシステムから守るための提案として示されていますが、同記事によると、連邦機関が裁判所の許可なしにモデルの公開を阻止することも禁じる内容です。 この構造が記事の中心的な緊張点です。一方で法案は、重大な安全基準を設け、モデルが一般に公開される前に規制当局が介入できる手段を与えます。もう一方で、司法の承認を必要とすると、スピードが重要なまさにその場面で緊急対応が遅れ、法的な制約が加わる可能性があります。 この提案は、政府が先端AIをどう規制すべきかという広い議論を映し出しています。裁判所のチェックを支持する人は、企業の製品がかかっている場面で、当局の恣意的な判断を防ぎ、強いデューデリジェンスを確保できると主張するかもしれません。批判する人は、基準の定義が難しく、潜在的な害の証拠は不確かなことが多く、裁判官を待つと危機の際に安全策が遅すぎると主張する可能性があります。 50人という基準も精査を招きそうです。モデルによって何人が死亡する可能性があるかを推定するのは単純な技術作業ではなく、法案にはその判断を信頼できるものにするプロセスが必要になります。記事は法案の全文を示していないため、最初の判断を誰が行うのか、裁判所がどの基準を適用するのかといった詳細は不明です。 それでも、この話は大手AI安全企業が政策設計に直接関与していることを示す点で重要です。リスクを事前に測るのが難しいシステムに対してルールを書く難しさも浮き彫りにしています。AI規制の議論が続く中、Anthropicが支持する提案は、真剣な安全への取り組みとしても、法的手続きと緊急対応への注意喚起としても引用されそうです。