AI Safety2026-09-10TechCrunch AI

OpenAI董事会迎来“AI末日论者”Paul Christiano,安全派上位

OpenAI在治理层面搞了个大动作:任命Paul Christiano为OpenAI基金会董事会成员。这位AI研究员以对齐和安全研究著称,因为老担心超级智能系统带来的生存风险,常被叫“AI末日论者”。现在他带着强烈的安全导向视角,进了组织最高监督层。 这个任命来得正是时候——全球AI圈正为先进模型的潜在危险吵得不可开交。Christiano的活儿,尤其是人类反馈强化学习(RLHF),是现代AI系统训练成对齐人类意图的基石。但他进董事会,信号很明确:OpenAI在继续推技术边界的同时,治理上转向更谨慎。 行业观察人士觉得,董事会里有个专盯灾难性风险的重量级声音,可能会让公司不那么激进地赶发布节奏。Christiano以前就说过,比人聪明的AI系统可能带来前所未有的挑战,他在场很可能会影响模型发布、安全测试和长期战略的决策。有人觉得这是明智一步,也有人担心会拖慢创新。但不管咋说,这举动说明大家越来越认一个理:技术能力得配上严格的安全监督,尤其是在通用人工智能竞赛越来越激烈的当口。

相关资讯