纽森要推AI「一键关停」，加州想抢先立规矩

加州州长加文·纽森正在推动加州在AI监管上扮演领头羊，其中就包括可能强制要求前沿模型配备所谓的「一键关停」能力。一份新的行政令要求州政府官员召集专家，就AI安全与治理提出建议。这个kill switch的设想，是让主管部门在AI系统构成紧急风险时，有能力把它关掉。这套提议反映出外界对先进AI的担忧在加深，也反映出加护栏的必要性——毕竟加州是不少全球最大AI公司的所在地。 支持者认为，一键关停可以作为一种最后手段。如果一个模型被用来发动网络攻击、操纵关键基础设施，或者造成人身伤害，能快速把它停掉，就可能阻止事态升级。专家流程还可以顺带定义介入的门槛、审计要求和报告义务。加州的市场体量意味着它的规则可能变成事实上的全国标准，就像此前各州隐私法对全行业做法的塑造一样。 批评者则提醒：这件事宣布容易，落地难。前沿模型往往是分布式部署的，还会被微调、通过云服务上线，所以未必存在一个统一的「总开关」。强制要求还可能冻住研究、把公司赶去别的州，或者制造一种「技术手段足够」的错觉。民权组织会追问：谁有权判定一个系统是危险的？企业又该怎么对这个命令提出异议？行业团体更希望看到灵活的、基于风险的管理框架，以及联邦层面的统一协调，而不是各州规则拼成一块补丁。 需要注意的是，这份行政令本身并没有直接实施一键关停，它启动的是一个可能通向立法或机构行动的流程。真正的争论会落在定义、透明度和问责上。纽森这一步说明，AI安全正在从技术话题变成主流政治议题。如果加州能把雄心勃勃的目标和实际可用的保障措施结合起来，可能会影响其他政府对前沿AI的态度；如果做不到，这件事也可能变成一个注脚，说明治理跑得飞快的技术有多难。