AI 護欄擋不住？犯罪駭客照樣把 AI 代理拿去犯案

根據 WIRED 的報導，犯罪駭客正日益倚重具備代理能力（agentic）的 AI 工具來發動攻擊，而 AI 公司打造的安全護欄已被證明不夠充分。 真正的問題不只是罪犯可以用聊天機器人寫惡意程式碼。新一代的代理式系統能夠實際採取行動、呼叫工具、瀏覽資訊，並執行多步驟任務，這讓它們在偵察、目標研究、寫程式與網路攻擊的其他環節上都派得上用場。報導指出，攻擊者曾操弄 Anthropic 的 Claude 等系統來協助犯罪工作。 供應商安全政策與現實濫用之間的落差，正是這則報導的核心。AI 公司會公布使用規範、部署過濾機制來阻擋有害請求，但有心人士往往能把提示重新包裝、把任務拆成更小的步驟，或把不同工具組合起來，藉此繞過簡單的檢查。 代理式系統讓這個問題更難解，因為風險不再只限於模型「說了什麼」，還包括模型連上軟體、瀏覽器與其他服務之後「做了什麼」。一道對單次聊天回覆有效的護欄，未必擋得住循序執行一連串動作的代理。 這則報導也對 AI 開發者與政策制定者拋出幾個棘手問題：企業該如何在產品裡導入偵測濫用的機制，又不至於變成大規模監控？對高能力代理，該套用什麼樣的日誌紀錄、速率限制或存取控制？發現濫用時，供應商又該多快分享威脅情資？這些答案目前都還沒有定論。 可以確定的是，網路罪犯已經把 AI 當成工具箱裡的另一把利器，光靠安全政策並不足以擋下他們。隨著代理能力不斷增強，AI 公司承受的壓力也會更大——必須在系統設計之初就把安全納入，並且與防守方更緊密合作。