AI推理模型有致命漏洞：一个简单问题就能让系统瘫痪

IEEE Spectrum发表的一项新研究，指出了使用逐步推理能力的AI模型存在严重安全漏洞。这类常被称为“推理模型”的AI，虽然擅长通过把任务拆成逻辑步骤来解决复杂问题，但研究人员发现，正是这个过程可以被攻击者利用，让系统慢到几乎瘫痪。 漏洞就出在推理链本身。当AI模型被迫生成冗长的推理路径时，消耗的计算资源比直接回答多得多。攻击者可以精心构造提示，故意触发延长的推理循环，让模型在琐碎问题上原地打转。在最坏的情况下，这会导致拒绝服务——AI系统对合法用户变得无响应。 研究人员证明，即使是简单查询也能被武器化。通过在提示里加“请详细解释每一步”或“考虑所有可能的替代方案”这样的短语，攻击者能把处理时间拉长10到100倍。当同时发起成千上万个请求时，这实际上就成了对AI基础设施的分布式拒绝服务攻击。 这些发现凸显了能力与安全性之间的根本权衡。推理模型驱动着从高级聊天机器人到自主编程助手的一切，它们被设计成在回答前仔细思考。但正是这种仔细思考，创造了更简单的非推理模型没有的攻击面。 行业专家呼吁建立新的防护机制，比如限制推理链长度、为复杂查询设置超时，以及开发能识别恶意推理提示的检测系统。有人建议模型应该有“紧急停止”机制，能在遭受攻击时中止过度推理，回退到更简单的回答。 随着AI系统越来越复杂、部署越来越广泛，其内部流程的安全影响将需要得到与输出质量同等程度的关注。IEEE的这项研究敲响了警钟：更聪明的AI，也可能意味着更脆弱的AI。