Apple bane apps de 'nudify' da App Store

A Apple atualizou as regras da App Store para proibir de forma explícita os chamados apps de 'nudify' — ferramentas de IA que geram imagens íntimas ou sexualizadas de pessoas sem o consentimento delas. A mudança ocorre após fortes críticas, depois que usuários do X teriam usado o Grok no início deste ano para criar deepfakes sexuais não consensuais. As novas diretrizes deixam claro que esse tipo de app não é bem-vindo na plataforma e reforçam a posição da Apple contra imagens íntimas não consensuais geradas por IA, conhecidas como NCII. A medida é relevante porque as lojas de aplicativos viraram um dos principais filtros para ferramentas de IA voltadas ao consumidor. Ao banir os apps de nudify de uma vez, a Apple diz querer proteger usuários de assédio, abuso e danos à reputação. Vítimas de NCII podem sofrer impactos emocionais e sociais duradouros, e a rápida disseminação de imagens realistas de IA torna o problema mais difícil de conter. A mudança também cria um precedente para outras plataformas. Google, Microsoft e redes sociais estão sob pressão para adotar políticas igualmente explícitas. A fiscalização, no entanto, será um desafio. Desenvolvedores podem disfarçar recursos proibidos, migrar para web apps ou distribuir por lojas alternativas. Mesmo que um app seja removido, os modelos de IA por trás dele podem continuar acessíveis em outros lugares. Ou seja, banimentos em plataformas são apenas uma parte da solução. Também são necessárias leis mais rígidas, apoio às vítimas, marca d'água, detecção de conteúdo e processos mais rápidos de remoção. A decisão da Apple sinaliza que a empresa enxerga a NCII como um dano claro, e não como uma área cinzenta. A companhia precisará mostrar que seu processo de revisão consegue pegar infratores antes que cheguem aos usuários. Por enquanto, as regras atualizadas da App Store mandam um recado: consentimento importa, e abuso gerado por IA não será tratado como entretenimento comum. O debate deve continuar conforme as ferramentas de geração de imagem ficam melhores e se espalham por mais serviços.