OpenAI 设计可抵御提示注入攻击的 AI 代理

OpenAI 详细介绍了其构建能够抵御提示注入和社会工程学攻击的 AI 代理的安全导向方法。公司并非仅仅依赖外部过滤器，而是将抵抗力直接构建到代理工作流架构中。这包括限制代理执行风险操作的能力，并实施保护措施以保护敏感数据和系统完整性。