OpenAI通过指令层级挑战提升大语言模型安全性

OpenAI开发了指令层级挑战（IH-Challenge），用于训练前沿大语言模型，使其更好地优先处理可信指令。这改善了“指令层级”，增强了安全可控性，并提高了模型抵抗提示注入攻击的能力，从而解决了先进AI系统中的关键安全问题。