Nova York apreende 12 sites de deepfakes

O escritório do promotor distrital de Manhattan apreendeu 12 sites que hospedavam deepfakes de celebridades, no que as autoridades descrevem como uma das maiores ações legais já feitas contra conteúdo nocivo gerado por IA. Os sites são acusados de usar inteligência artificial para criar imagens íntimas não consensuais e outros materiais fraudulentos. Autoridades dizem que a operação mirou cerca de 1.200 vítimas, número que mostra como o abuso com deepfakes pode escalar rápido online. A apreensão envia um aviso claro de que a aplicação da lei está começando a tratar exploração gerada por IA como assunto criminal sério, e não como problema marginal da internet. As autoridades afirmaram que os sites violaram leis contra exposição indecente e assédio. O caso também reflete a preocupação crescente com a facilidade de produzir e distribuir imagens e vídeos falsos realistas. Celebridades são alvos frequentes, mas as mesmas ferramentas podem ser usadas contra pessoas comuns, incluindo ex-parceiros, colegas de trabalho ou desconhecidos. Para as vítimas, o dano pode ser imediato e duradouro, afetando reputação, saúde mental e segurança pessoal. A ação contra esses sites pode não eliminar o abuso com deepfakes, mas pode desarticular uma grande rede de distribuição e desencorajar outros a hospedar conteúdo semelhante. Especialistas jurídicos vão acompanhar como os promotores constroem o caso, especialmente porque leis sobre deepfake variam por jurisdição e levantam questões difíceis sobre responsabilidade de plataformas, anonimato e liberdade de expressão. A apreensão também aumenta a pressão sobre empresas de tecnologia e legisladores para criar proteções mais fortes, processos de remoção mais rápidos e penalidades mais claras. À medida que geradores de imagem e vídeo por IA melhoram, a disputa sobre deepfakes não consensuais provavelmente vai se intensificar. Este caso mostra que as autoridades estão dispostas a usar apreensões e acusações criminais para reagir.