NY地検、ディープフェイクサイト12件を差し押さえ

米ニューヨークのマンハッタン地区検察当局が、有名人のディープフェイクを掲載していたウェブサイト12件を差し押さえました。当局は、有害なAI生成コンテンツに対するこれまでで最大級の法的措置の一つだと説明しています。これらのサイトは、AIを使って非同意の性的画像やその他の詐欺的な素材を作っていたとされています。 当局によると、今回の措置が対象とした被害者は約1200人。この数字は、ディープフェイクによる悪用がオンラインでどれほど急速に拡大しうるかを物語っています。この差し押さえは、AI生成の搾取を、インターネットの辺境の問題ではなく深刻な犯罪として扱い始めたという明確な警告になります。当局は、これらのサイトがわいせつ物陳列や嫌がらせを禁じる法律に違反したと述べています。 この事件は、リアルな偽の画像や動画を簡単に作って広められることへの懸念の高まりも反映しています。標的になりやすいのは有名人ですが、同じツールは元パートナーや同僚、まったくの他人といった一般の人にも向けられ得ます。被害者にとっては、評判や精神的な健康、身の安全にまで及ぶ即時的で長期的な害になりかねません。 今回の措置でディープフェイクの悪用がなくなるわけではありませんが、主要な配布網を止め、同種のコンテンツを置こうとする人に抑制をかける効果は期待できます。法律の専門家は、検察がどう立証を組み立てるかに注目しています。ディープフェイクをめぐる法規制は地域ごとに違い、プラットフォームの責任や匿名性、表現の自由といった難しい論点も絡むためです。 この差し押さえは、より強い保護策や迅速な削除手続き、明確な罰則を求める圧力となって、テクノロジー企業や立法者にも及ぶでしょう。AIの画像・動画生成が進化するにつれ、非同意のディープフェイクをめぐる攻防は激しくなりそうです。今回の事例は、当局が差し押さえや刑事訴追を使って反撃する姿勢を示しています。