400 apps de IA escondem deepfakes abusivos

A WIRED encontrou cerca de 400 apps e sites ligados a desenvolvedores de língua chinesa que parecem ferramentas de IA comuns, mas escondem funções para gerar imagens e vídeos deepfake violentos e sexualmente abusivos. O achado expõe um padrão preocupante: capacidades abusivas de geração de imagem são empacotadas dentro de produtos com aparência mainstream, o que as torna mais difíceis de identificar por usuários, lojas de apps e reguladores. Na superfície, muitos desses serviços podem parecer utilitários de IA familiares, como editores de foto, criadores de avatar ou assistentes criativos. Segundo o relatório, as funções escondidas permitem produzir mídia sintética explícita e prejudicial. Essa combinação cria desafios de fiscalização, porque os recursos abusivos podem ficar atrás de paywalls, códigos de convite ou outras camadas que não são óbvias numa revisão rotineira de app. Lojas de apps podem remover produtos que violam políticas, mas os sites e apps por trás deles podem reaparecer com novos nomes ou ser distribuídos fora dos canais oficiais. Reguladores enfrentam dificuldades parecidas, já que as ferramentas se movem rapidamente entre países e plataformas. O relatório também levanta questões sobre como desenvolvedores devem ser verificados e quão rápido capacidades abusivas podem ser detectadas antes de alcançar um público amplo. Para usuários, o achado reforça que uma interface polida não é prova de segurança. Para operadores de plataforma, sugere a necessidade de escrutínio mais profundo de produtos de IA, especialmente os que lidam com geração de imagem e vídeo. O caso faz parte de um debate maior sobre como frear o abuso de deepfakes sem esmagar a criatividade legítima com IA. Também mostra que detecção e fiscalização precisam acompanhar as formas como recursos prejudiciais são escondidos dentro de softwares aparentemente normais.