别太信AI会拒绝：一句“我不能帮你”不等于安全

很多人把 AI 聊天机器人的“拒绝”当成一道安全保证：只要模型说出“这个我没法帮你”，就默认危险已经被拦下。但 MIT Technology Review 认为，社会对 AI“说不”的能力信任过头了。拒绝行为不是什么自然规律，而是一种学来的模式，由训练数据、微调和过滤规则共同塑造。它可以通过越狱、角色扮演提示、编码指令或更隐蔽的操纵被绕过；也可能在完全没有恶意的情况下失效——模型误解了请求，或者只是在执行另一个目标。 问题不只是技术层面的。当政策制定者、企业和用户都假定拒绝机制能挡住每一次有害请求时，外部防护就容易被忽视。过度依赖模型层面的护栏会制造虚假的安全感：今天拒绝给出制作炸弹说明的聊天机器人，可能因为一次模型更新、一个新的交互界面或者一句巧妙的提示词，明天就照做不误。安全不能押在一个带有概率性、又不透明的单一防线上。 文章主张采用“纵深防御”的思路，也就是加强外部管控：限流、敏感用途的身份验证、监控、滥用举报，以及清晰的人工监督。同时还需要监管——让开发者和部署方对系统被如何使用负责，而不只是对模型在演示里说了什么负责。在医疗、金融、安全和公共安全等高风险决策中，人工复核仍然不可替代。红队测试应该是持续进行的，而不是上线前跑一次就完事。 对用户来说，这堂课叫谦逊：AI 的拒绝是个有用的功能，但不是道德防火墙。对开发者来说，这是一句警告：别把护栏宣传成绝对可靠。对监管者来说，这是要求披露局限性和失效模式的理由。如果社会真想让 AI 安全，就得停止把“不”当成安全的证明，转而建设这样的系统——它默认模型可能出错、可能被操纵，也可能根本用不了。问题不在于 AI 会不会拒绝，而在于它不拒绝的时候，会发生什么。