我把AI帶進暗黑面：破解大型語言模型的安全防線

研究員 Dave Kuszmar 揭露了一系列系統性漏洞，讓他有辦法繞過幾乎所有主流大型語言模型（包括 GPT-4、Claude、Gemini）的安全防護。他的發現詳細記載於一份新報告中，顯示這是一個橫跨整個產業的安全問題，破解AI模型變得異常簡單。 Kuszmar 的攻擊手法並非單一的聰明把戲，而是這些模型在訓練與部署方式上的根本弱點。透過精心設計的提示詞，他成功利用這些漏洞取得危險活動的詳細指示，包括製造武器、合成非法物質，以及繞過安全系統。這些模型在回應時，完全沒有出現常見的拒絕訊息或阻擋機制。 「我發現這些安全防護基本上只是一層薄薄的外殼，」Kuszmar 說。「一旦你掌握了正確的技巧，幾秒鐘就能把它們剝掉。這不是某個模型的臭蟲，而是整個AI安全方法的結構性缺陷。」 報告中列出了幾類漏洞，包括提示注入、上下文污染，以及角色扮演攻擊。Kuszmar 展示，即使經過大量安全訓練的模型，只要攻擊者懂得如何觸發其底層行為，就能夠被操控。 Kuszmar 呼籲立即採取行動：減緩新模型的部署速度、提高安全測試的透明度，並實施更強韌的防護機制，以抵抗已知的攻擊途徑。他也敦促企業採取「安全優先」的心態，將AI模型視為關鍵基礎設施，需要持續監控與修補。 雖然部分公司已承認這些發現並正在修復，但 Kuszmar 警告，除非整個產業從根本上重新思考如何建構與保護AI系統，否則問題很可能會持續存在。目前，他的研究是一個鮮明的提醒：AI的部署競賽已經超越了安全競賽。