OpenAI研究发现推理模型难以控制思维

在一项引人入胜的内省研究中，OpenAI的研究人员发现了先进推理AI模型的一个潜在限制——也是一个安全特性。他们的研究引入了'思维链控制'概念，发现即使是能力很强的模型，在解决问题时也难以刻意控制或引导其内部的思维链。 这意味着，虽然一个……