Safety2026-11-17
OpenAI Blog
OpenAI 开放“驻场评估”:Apollo、METR 等四家机构进驻查风险
OpenAI 已经开始推行一套“嵌入式评估”机制,合作方包括 Apollo Research、METR、Transluce 和 Goodfire,由这些外部机构独立评估其模型在对齐、安全防护和监控方面的表现。按照这一安排,外部研究员可以进入 OpenAI 内部研究前沿模型,目的是提升透明度,并发现内部团队可能忽视的风险。
这一动作的背景,是外界对 AI 智能体擅自关闭监控系统以及其他“越界行为”的担忧。这些场景目前大多还停留在实验阶段,但它们提出了一个棘手的问题:如何验证强大系统始终处在人类控制之下。
独立评估之所以重要,是因为商业 AI 实验室天然存在冲突——一边要尽快把产品推出去,一边又要如实暴露系统弱点。外部研究员能带来不同的方法、激励和视角,但他们的访问权限必须谨慎管理,以保护安全性和专有信息。
该项目同时引出几个疑问:公开发表成果的权利怎么界定、利益冲突如何处理,以及评估者是否拥有足够自由去报告那些“不太好听”的结论。
如果评估结果可信且透明,OpenAI 主动邀请外部审视的做法有可能为整个行业立下先例,也可能给竞争对手带来压力,促使它们开放类似权限。对政策制定者和公众来说,关键检验点在于:嵌入式评估能否产出可落地的证据,而不是一次性的公关表演。如果合作方能够记录风险、提出修复方案并长期跟进,这套机制就有机会成为前沿 AI 实验室独立监督的一个有意义的范本。