OpenAI为ChatGPT添加锁定模式与高风险标签

OpenAI正在通过为ChatGPT推出的两项新功能——锁定模式和高风险标签，来增强企业安全性。这些工具旨在帮助组织防御随着AI技术应用而出现的、针对AI的复杂网络安全威胁。锁定模式是一种限制性设置，在高风险环境中限制模型的能力，防止某些类型的操作并强制执行更严格的审查。高风险标签则自动标记可能涉及敏感主题或试图操纵模型的用户查询，提醒管理员注意潜在威胁。