OpenAI 將在歐盟為 ChatGPT 文字加浮水印

OpenAI 打算在歐盟為 ChatGPT 與 Codex 產出的文字加上浮水印，以符合歐盟《AI 法案》的要求。這套浮水印看不見、但機器可讀，用意是協助辨識由 OpenAI 系統生成的文字。OpenAI 表示，背後採用的是 textGrain 技術，並宣稱成效與其他浮水印方案相當、甚至更好，其中包括 Google DeepMind 針對文字推出的 SynthID。 這項動作的背景，是監管機關對 AI 透明度與內容來源（provenance）的壓力持續升高。歐洲法規要求 AI 供應商讓外界更容易判斷內容是否由 AI 生成或修改。浮水印是回應這項要求的方法之一，但並非完整解答。OpenAI 指出，偵測權限初期只開放給研究人員，顯示公司態度謹慎，仍在研究準確度與濫用風險。 實務上仍有不少限制。OpenAI 說明，使用者一旦編輯內容，浮水印就會更難被偵測，也就是說，經過改寫、換句話說或轉換之後，系統的可靠度可能下降。浮水印還得跨語言、跨格式、跨寫作風格運作，又不能拖累輸出品質。如果太容易被移除，標記的價值有限；如果過於強韌，又可能引發隱私或非預期追蹤的疑慮。 即使有這些但書，這波歐盟上線仍可能成為生成式 AI 業者處理內容來源的先行案例。當 AI 生成文字在新聞、教育、客戶服務與軟體開發領域越來越普遍，監管機關與平台都想要更好的工具來辨識來源。OpenAI 選擇在一個主要司法管轄區為 ChatGPT 與 Codex 的輸出加上浮水印，可能促使其他市場跟進，或成為負責任 AI 部署的基本期待。 這項宣布也反映一個更大的轉變：透明度功能正從研究展示，走向合規基礎設施。對 OpenAI 而言，浮水印不只是技術功能，也是監管策略。對使用者和企業來說，這意味著 AI 內容來源標示可能很快融入日常工作流程，尤其是在 AI 法規嚴格的地區。textGrain 在真實環境中的表現如何，將決定浮水印會成為可信標準，還是內容真偽爭議中又一層複雜問題。