別把AI的「我不幫」當成安全保證

很多人把AI聊天機器人的拒絕當成安全保證。只要模型說一句「這我沒辦法幫忙」，我們就認定危險已經被擋下來了。但MIT科技評論認為，社會對AI「說不」的能力信任過了頭。拒絕行為不是自然定律，而是學來的模式，由訓練資料、微調與過濾機制共同塑造。它可以被越獄、角色扮演提示、編碼指令或細緻的操控繞過；也可能在毫無惡意的情況下失效，例如模型誤解了需求，或是在追求另一個目標。 問題不只在技術層面。當政策制定者、企業與使用者都假設拒絕機制能攔下每一個有害請求，就可能忽略外部防護。過度依賴模型層級的護欄，會製造虛假的安全感。今天拒絕提供製作炸彈說明的聊天機器人，可能在模型更新、介面改版或一句巧妙提示之後就照做。安全不能建立在單一、具機率性又不透明的防線上。 文章主張採取「縱深防禦」。也就是更強的外部控制：速率限制、敏感用途的身分驗證、監控、濫用檢舉，以及明確的人類監督。同時也需要法規，讓開發者與部署者對系統被如何使用負責，而不只是對模型在示範中說了什麼負責。在醫療、金融、安全與公共安全等高風險決策上，人工審查仍然不可省略。紅隊測試應該持續進行，而不是上線前做一次就結束。 對使用者來說，這堂課是謙卑。AI的拒絕是有用的功能，但不是道德防火牆。對開發者來說，這是一項警告：不要把護欄當成絕對來行銷。對監管者來說，這正是要求揭露限制與失效模式的理由。如果社會希望AI安全，就不能再把「拒絕」當成安全的證明，而要開始打造「假設模型可能犯錯、被操控，甚至根本無法使用」的系統。問題不在於AI能不能拒絕，而在於它沒拒絕的時候會發生什麼事。