OpenAI提出前沿人工智能治理蓝图

OpenAI发布了一份全面的政策文件，提出了一种针对前沿人工智能系统民主治理的新框架。该蓝图概述了一种联邦式方法，以确保先进人工智能技术的安全性、韧性以及国家安全影响。 该文件阐述了随着人工智能能力持续快速发展，主动监管日益增长的必要性。OpenAI认为，与其等待事件发生，政府现在就应该建立明确的指导方针和监督机制。拟议的框架包括对最强大的人工智能系统进行安全测试、透明度报告和事件响应协议的要求。 该蓝图的一个关键要素是呼吁在人工智能标准方面开展国际合作。OpenAI认识到，人工智能发展是一项全球性事业，没有任何一个国家能够单独有效监管这些技术。该文件建议建立类似于监督核能或航空安全的国际机构。 该提案还强调了人工智能治理中的民主参与。OpenAI建议，公民应该对人工智能技术的部署方式拥有发言权，尤其是在这些技术影响公共服务、就业和公民自由时。这包括公众咨询、独立监督委员会和问责机制。 批评者指出，作为主要的人工智能开发者，OpenAI在塑造有利于其商业模式的监管方面拥有既得利益。然而，该公司坚称其提案旨在造福整个社会，并且自愿接受更严格的审查。 预计该蓝图将影响美国、欧盟以及其他正在制定人工智能法规的地区的政策讨论。它代表了迄今为止最详细的人工智能治理行业提案之一，并表明主要人工智能公司正在认真对待监管问题。