Apple、同意なしの「ヌード化」AIアプリをApp Storeから締め出し

AppleはApp Storeのルールを更新し、相手の同意なしに親密な画像や性的な画像を生成する「ヌード化（nudify）」アプリを明確に禁止しました。今回の変更は、今年に入ってXのユーザーがGrokを使って同意のない性的ディープフェイクを作成したと報じられたことを受けた激しい批判の後に出てきたものです。新しいガイドラインは、こうしたアプリを自社プラットフォームに置かないことを明示し、AIによる非同意の親密画像（NCII）に対するAppleの姿勢を強める内容になっています。 重要なのは、アプリストアが消費者向けAIツールの主要なゲートキーパーになっている点です。ヌード化アプリを一律に禁止することで、Appleはハラスメントや虐待、評判の毀損からユーザーを守ろうとしています。NCIIの被害者は長期的な心の傷や社会的な不利益を負うことがあり、リアルなAI画像が急速に広がるほど問題の封じ込めは難しくなります。このルール変更は他プラットフォームの前例にもなります。GoogleやMicrosoft、SNS各社も同様に明確なポリシーを求められる圧力にさらされています。 ただし執行は簡単ではありません。開発者は禁止された機能を偽装したり、Webアプリに移行したり、代替マーケットプレイスで配布したりできます。アプリを削除しても、その基盤となるAIモデルが別の場所で使えるままかもしれません。つまりプラットフォームの禁止は解決策の一部にすぎず、法規制の強化、被害者支援、ウォーターマーク、コンテンツ検出、迅速な削除体制なども必要になります。 Appleの判断は、NCIIをグレーゾーンではなく明確な有害行為と捉えていることの表れです。レビュー体制が違反アプリをユーザーの手に渡る前に止められるかを示す必要があります。現時点で更新されたApp Storeルールは、同意が重要であり、AIを使った虐待を普通の娯楽として扱わないというメッセージを送っています。画像生成ツールの進化と普及に伴い、この議論は続きそうです。