DeepMind CEO呼吁成立独立AI监管机构，效仿美国金融业模式

DeepMind的CEO Demis Hassabis最近抛出了一个重磅提议：建立一个独立的AI标准制定机构，专门用来监管前沿人工智能。在最近的一次采访中，Hassabis表示，这个新组织可以效仿美国的金融业监管局（FINRA）——没错，就是那个管证券公司的机构。 按照他的设想，这个机构的主要工作包括：在AI模型公开发布之前进行测试、制定安全部署的最佳实践、建立性能和安全的基准，以及追究违规公司的责任。Hassabis直言不讳地指出，现在这种靠企业自愿承诺和内部安全审查的做法，根本不够用。 “我们需要一个独立的、由专家主导的组织，能够客观地评估这些模型，”Hassabis说，“风险太大了，不能把安全问题完全交给个别公司自己管。”这个机构将有权进行审计、要求修改模型，甚至在安全标准不达标的情况下叫停发布。 Hassabis提出这个建议的时机也很微妙——最近AI安全方面的担忧越来越多。模型被越狱、输出偏见内容、被恶意利用的事件频频发生，大家都在呼吁建立更完善的监管框架。有意思的是，这个提议来自行业内部，说明连AI领域的领头羊也意识到光靠自律不行了。 虽然这个想法得到了不少研究人员和决策者的支持，但具体怎么操作还有很多问题要解决：谁来出钱？怎么跟上技术飞速更新的节奏？企业会不会自愿配合？尽管挑战重重，Hassabis的这个提议还是朝着更结构化、更负责任的AI生态系统迈出了重要一步。