OpenAI、EUでChatGPTに電子透かし 編集で検出難しく

OpenAIは、EUのAI法（AI Act）への対応の一環として、ChatGPTとCodexのテキストに電子透かしを導入する計画です。透かしは目に見えず、機械で読み取れる形で埋め込まれ、OpenAIのシステムが生成した文章を識別しやすくする狙いがあります。同社によると、この方式にはtextGrain技術が使われており、Google DeepMindのテキスト向けSynthIDなど、他の透かし手法と比べて同等以上だったと主張しています。 背景には、AIの透明性とコンテンツの由来をめぐる規制圧力の高まりがあります。欧州のルールは、AIが生成・改変したコンテンツを見分けやすくするようAI事業者に求めています。透かしはその手段の一つですが、完全な解決策ではありません。OpenAIは検出機能へのアクセスを当初は研究者に限定すると説明しており、精度や悪用リスクを見極めながら慎重に扱う姿勢がうかがえます。 実用上の限界もあります。OpenAIは、編集が加わると透かしを検出しにくくなると指摘しています。つまり、ユーザーが文章を書き換えたり、言い換えたり、変換したりすると、信頼性が下がる可能性があります。また、透かしは言語やフォーマット、文体をまたいで機能しつつ、出力品質を落とさない必要があります。検出を簡単に外せてしまうと透かしの価値は限られ、逆に強固すぎるとプライバシーや意図しない追跡への懸念が生まれます。 それでも、EUでの展開は、生成AI企業が他の地域でコンテンツの由来にどう対応するかの先例になる可能性があります。AI生成テキストがジャーナリズム、教育、カスタマーサービス、ソフトウェア開発で一般化するにつれ、規制当局やプラットフォームは出自を特定するより良いツールを求めています。OpenAIが主要市場の一つでChatGPTとCodexの出力に透かしを入れる判断は、他の市場でも同様の措置を促したり、責任あるAI運用の基準になったりするかもしれません。 この発表は、透明性機能が研究デモからコンプライアンスの基盤へ移りつつあることも示しています。OpenAIにとって透かしは単なる技術機能ではなく、規制戦略でもあります。ユーザーや企業にとっては、特にAI法が厳しい地域で、AIの由来が日常のワークフローに入り込む可能性を示唆します。textGrainが実環境でどれだけ機能するかが、透かしが信頼される標準になるか、コンテンツ真正性をめぐる複雑な議論のもう一つの層にすぎなくなるかを左右しそうです。