OpenAI 被曝因安全顾虑砍掉一个模型

据《华尔街日报》报道，OpenAI 一位高管表示，公司因安全顾虑砍掉了一个模型。这个模型在遵循指令方面的能力很差，让团队对其可靠性和可控性产生了警惕。 报道并没有说这个模型引发过什么具体的灾难性事件，但这次决定本身已经说明，头部 AI 实验室在多大程度上重视指令遵循和行为的可预测性。一个连用户意图都难以照做的模型，在高风险场景里既难测试，也难部署，更难让人放心托付。 这件事也折射出 AI 公司内部的矛盾：竞品都在争分夺秒地发布更强的系统，而安全团队必须判断，一个模型到底稳不稳定，够不够格面向公众或商业使用。砍掉一个模型代价不小，尤其是在已经投入大量研究和算力之后。但如果硬着头皮推一个不可靠的系统，随之而来的可能是法律、声誉和安全风险。 OpenAI 并没有公开完整细节，不过这一决定符合行业近来的一个大趋势：随着模型越来越自主，各家实验室都在收紧评测和红队测试流程。 对企业和开发者而言，教训是：模型能力强并不够。组织需要准备强护栏、监控手段和备用方案。报道还留下一个问题——AI 实验室究竟按什么标准判断一个模型风险太大不能发，最终又是谁拍板。 整个行业正朝着能替用户行动的智能体方向推进，在这种背景下，安全地遵循指令的能力，可能和纯粹的智力一样重要。如果这一决定得到确认，那就意味着在 OpenAI 眼里，安全顾虑的权重可以压过竞争压力。