AI 推理模型成安全新漏洞，恐遭攻擊拖垮系統

IEEE Spectrum 發表的一項新研究，指出了具備逐步推理能力的 AI 模型存在關鍵安全漏洞。這類常被稱為「推理模型」的 AI，擅長透過將任務拆解為邏輯步驟來解決複雜問題，但研究人員發現，正是這個過程可能被攻擊者利用，將系統速度拖慢至幾乎停擺。 漏洞就出在推理鏈本身。當 AI 模型被迫產生冗長、詳細的推理路徑時，它消耗的運算資源遠比直接給出答案時多得多。攻擊者可以刻意設計提示，觸發模型陷入延長的推理循環，使其在微不足道的問題上空轉。在最壞的情況下，這可能導致阻斷服務狀況，使 AI 系統無法回應合法用戶。 研究人員證明，即使是簡單的查詢也能被武器化。透過加入「詳細解釋每一步」或「考慮所有可能替代方案」等詞語，攻擊者可將處理時間延長 10 到 100 倍。當這種攻擊擴大到數千個同時請求時，實際上就形成了針對 AI 基礎設施的分散式阻斷服務攻擊。 這項發現凸顯了能力與安全性之間的根本取捨。推理模型驅動著從先進聊天機器人到自主編碼助手等各種應用，它們被設計成在回應前仔細思考。但正是這種仔細思考，創造了較簡單、非推理模型所沒有的攻擊面。 業界專家呼籲制定新的安全措施，例如限制推理鏈的長度、為複雜查詢設置超時機制，以及開發能識別惡意推理提示的偵測系統。有人建議模型應具備「緊急停止」機制，能在遭受攻擊時中止過度的推理，並回退到較簡單的回應。 隨著 AI 系統變得越來越複雜且廣泛部署，其內部流程的安全性將需要與輸出品質獲得同等關注。這項 IEEE 研究是一個警鐘：更聰明的 AI 可能也意味著更脆弱的 AI。