EUのAI文章透かし、編集で消える？ 検出技術に早くも壁

EUがAI生成テキストに透かしを義務付けて識別できるようにしようとしているが、IEEE Spectrumによると、現行の透かし技術では規則を満たせない可能性がある。OpenAIがEU法への対応で10月に公開した「textGrain」をテストしたところ、テキストを編集したり言い換えたりコピーしたりすると、マークが消えたり不安定になったりすることが多かった。 これは、透かしを執行の道具にしたい規制当局にとって大きな弱点だ。透かしは生成コンテンツに検出可能な信号を残す仕組みだが、通常の利用に耐えなければ役に立たない。少し編集するだけで信号が消えるなら、悪意ある利用者は簡単に検出を逃れられ、プラットフォームも自信を持ってAI生成とラベル付けできない。ただし、透かしが完全に無意味というわけではない。未加工の出力の一部を特定したり、透明性の取り組みを支えたりする用途は残る。しかし、透かし検出を万能策とみなすべきではないということだ。執行には、透かしに加えて来歴メタデータ、アカウント単位の信号、コンテンツ認証標準、人によるレビューを組み合わせる必要があるかもしれない。 EUの規則は、合成テキストが安価で説得力を持つようになる中で、AI生成物の透明性を高める広い取り組みの一環だ。今回のテストは、政策目標と技術的現実の間のギャップを示している。規制当局は信頼できるラベルを求めているが、研究者が提供できるのは限界が知られたツールだ。プラットフォームには、検出技術でできることを過大に主張せず、それでもユーザーに有用な文脈を渡すという難しさがある。透かし要件が広がり、AIが人間の文章をより忠実に模倣するようになるにつれて、議論は激しくなるだろう。核心は、現行手法を法律やプラットフォーム政策に耐えるほど頑健にできるのか、それとも期待自体を変える必要があるのか、という点だ。