YouTubeやXが「ヌード化」アプリへの入り口に、研究結果

憂慮すべき新たな研究結果により、YouTubeやX（旧Twitter）などの主要ソーシャルメディアプラットフォームが、意図せずして非同意の性的ディープフェイク画像を作成する「ヌード化（nudify）」アプリへの入り口となっている実態が明らかになりました。これらのアプリは、1枚あたりわずか1ドル（約150円）という低価格で悪質な画像を生成でき、技術へのアクセスが驚くほど容易になっています。 研究では、ユーザーがこれらのプラットフォーム上で、AIを悪用したコンテンツを作成するためのリンクや手順を簡単に見つけられることが確認されました。この結果は、ソーシャルメディア企業が、こうした悪用につながるコンテンツをモデレートする責任について、深刻な倫理的・法的問題を提起しています。 擁護団体は、AIによって生成された非同意の性的画像に対するポリシーの厳格化と、そのようなリンクをホストまたは宣伝するプラットフォームへのより大きな説明責任を求めています。AIツールが高度化するにつれ、創造的自由と悪質な搾取の境界線はますます曖昧になっており、早急な規制の必要性が叫ばれています。