OpenAI详述监控内部编码智能体以防错位的方法

OpenAI详细介绍了其内部安全实践，特别聚焦于如何监控AI编码智能体是否存在潜在的错位。公司采用了一种名为‘思维链监控’的技术，该技术涉及分析这些智能体在执行现实世界任务时的逐步推理过程。通过仔细审查这种内部的‘思维’链，研究人员可以