AI Safety2026-08-07NVIDIA AI Blog

AI安全新规出炉:SAFE指南+共享漏洞平台,联手护航智能体

AI智能体正变得越来越强大,也越来越自主,随之而来的网络安全问题也愈发紧迫。Open Secure AI Alliance(开放安全AI联盟)——目前成员已超过120家组织——近日提出了一套全新的“SAFE”指南,专门用于强化智能体AI的安全防护。这一公告恰逢Black Hat网络安全大会召开,时机可谓关键。 SAFE框架旨在为智能体AI的安全提供一套全面方案。与传统软件不同,智能体AI能够自主决策、执行操作,并与其他系统交互,这大大扩展了攻击面,也带来了更复杂的风险。SAFE指南正是针对这些独特漏洞,为智能体AI的构建、部署和运维提供了一套安全蓝图。 与此同时,Linux基金会也发布了一份关于“共享AI发现交换”(Shared AI Findings Exchange)的征求意见稿(RFC)。这一倡议着眼于打造一个开放、通用的平台,用于分享AI漏洞和威胁信息。其核心目标是打破安全研究的孤岛效应,转向集体防御模式——一旦有新的发现,整个社区都能迅速获取并采取行动。 这两项公告共同表明,AI行业对安全的态度正在走向成熟。从企业各自的最佳实践,到行业级标准和情报共享,这是关键一步。通过提出SAFE指南和共享AI发现交换,Open Secure AI Alliance和Linux基金会正在为更安全、更可信的AI生态系统奠定基础。这种主动姿态,对于建立对智能体AI的信心,以及确保其安全融入经济和社会的关键领域,都至关重要。

相关资讯