Hugging Face 淪為 Deepfake 裸照溫床？研究揭露漏洞

研究人員揭露了 Hugging Face 平台上一個令人不安的漏洞：平台上熱門的圖片編輯模型，竟能輕易被操縱來生成露骨的 deepfake 色情內容。這項發現對 AI 模型託管平台的責任歸屬，以及防止濫用所需的安全措施，提出了嚴肅的倫理質疑。 這項研究發現，Hugging Face 上廣泛可用的圖片編輯模型——這些模型原本是為了照片修圖與創意設計等合法用途而設計——只需極少的額外功夫，就能被改造成用來生成未經同意的露骨圖片。該平台的開放特性，允許任何人上傳與下載模型，使得這類濫用行為特別容易發生。 這個問題並非 Hugging Face 獨有，但該平台在 AI 社群中的顯著地位，放大了這項擔憂。作為全球最大的開源 AI 模型儲存庫之一，Hugging Face 是全球研究人員與開發者的關鍵資源。然而，其對開放性的承諾，也同時為不肖分子提供了利用該技術進行有害行為的機會。 研究人員呼籲加強安全措施，包括更 robust 的內容過濾、使用監控以及模型存取控制。他們主張，託管 AI 模型的平台必須主動採取措施，防止其工具被武器化，即使這意味著要對模型的使用或散布方式施加限制。 對 Hugging Face 而言，這起事件呈現了一個微妙的平衡難題：如何在維持開放生態系統的同時，防範濫用行為。該公司已經實施了一些安全措施，但研究結果顯示，還有更多工作要做。隨著 deepfake 技術變得越來越容易取得，AI 平台應對這些倫理挑戰的壓力只會持續增加。這起事件是一個鮮明的提醒：AI 的開放性伴隨著不可忽視的責任。