Anthropic CEO提出放缓AI开发的三步计划

Anthropic CEO达里奥·阿莫代伊提出了一项放缓AI开发节奏的计划，建议让METR等独立第三方评估机构访问其模型，以核实公司是否遵守安全实践和承诺。这一提议出现在一篇长文中，阿莫代伊在文中描述了一套为前沿发展定速的三步方案，这个说法已经成为领先AI实验室之间协调克制的代名词。 核心观点是，仅有自愿承诺还不够。没有外部验证，实验室可以声称自己遵循安全实践，却没人能确认。通过邀请外部评估者介入，阿莫代伊主张，可信度需要透明度和独立审查，即便这种审查会带来不便。 这套三步框架意在给实验室提供一种结构化的方式，在接近某些风险阈值时放慢脚步，而不是在竞争压力下临时做决定。这种压力非常强烈：构建更强模型的竞赛已经大幅加速，任何单方面暂停的实验室都可能落后于不暂停的对手。 这篇文章之所以引人注目，在于竞争对手之间明显的一致。OpenAI的山姆·奥特曼也表达过关于需要协调安全措施的类似看法，显示两家领先AI公司之间出现了不寻常的趋同。这种趋同究竟是出于真正的共同担忧，还是塑造监管的战略努力，仍是一个开放问题。 怀疑者指出，自愿放缓面临一个根本性的集体行动难题。如果只有部分实验室放慢，其他实验室就可能从更快行动中获益。执行、验证和国际协调都仍未解决。尽管如此，这一提议为关于前沿AI开发应如何治理的更广泛讨论增添了动力，也迫使其他实验室解释他们将如何验证自己的安全声明。