歐盟要求AI文字加水印，實測一改就破功

歐盟希望靠強制水印來標記AI生成的文字，但實際上路後碰到一個很現實的問題：這些偵測標記相當脆弱。IEEE Spectrum報導指出，以OpenAI在十月推出、用來配合歐盟法規的textGrain水印進行測試後發現，現行技術恐怕達不到法規要求。測試顯示，文字只要經過編輯、改寫或複製，標記往往就會消失，或變得難以信賴。 對想把水印當成執法工具的監管機關來說，這是明顯的弱點。水印的原理是在生成內容裡留下可偵測的訊號，但這個訊號必須撐得過正常使用才有意義。如果只要稍微編輯一輪就能抹掉訊號，有心人士很容易規避偵測，平台也沒辦法有把握地把內容標示為AI生成。 不過，這項發現並不代表水印毫無用處。對於未經修改的輸出，它仍可能協助辨識，也能支持透明度相關的做法；問題在於不該把水印偵測當成萬靈丹。執法上可能得把水印與來源（provenance）中介資料、帳號層級的訊號、內容認證標準，以及人工審查搭配使用。 歐盟的規範，是讓AI生成素材更透明的大方向之一，畢竟合成文字越來越便宜、也越來越像真人寫的。但這批測試也點出政策目標與技術現實之間的落差：監管機關想要可靠的標籤，研究者能給的工具卻有已知的極限。對平台而言，難處在於既要避免誇大偵測能力，又要給使用者有用的背景資訊。隨著水印要求擴大、AI系統愈來愈會模仿人類寫作，這場爭論恐怕只會更激烈。核心問題是：現行方法能不能強化到足以支撐法律與平台政策，還是得先調整期待。