Apple prohíbe las apps 'nudify' en su App Store

Apple actualizó las reglas de su App Store para prohibir explícitamente las apps conocidas como 'nudify', esas herramientas de IA que generan imágenes íntimas o sexualizadas de personas sin su consentimiento. El cambio llega tras una ola de críticas luego de que usuarios de X, según se reportó, usaran Grok a comienzos de este año para crear deepfakes sexualizados no consentidos. Las nuevas directrices dejan claro que ese tipo de aplicaciones no tienen cabida en su plataforma y refuerzan su posición contra las imágenes íntimas no consentidas generadas con IA, conocidas como NCII. El movimiento es relevante porque las tiendas de aplicaciones se convirtieron en un gatekeeper clave para las herramientas de IA de consumo. Al vetar de plano las apps nudify, Apple busca proteger a los usuarios del acoso, el abuso y el daño reputacional. Las víctimas de NCII pueden sufrir consecuencias emocionales y sociales duraderas, y la rápida difusión de imágenes realistas generadas por IA hace que el problema sea más difícil de contener. La nueva regla también sienta precedente para otras plataformas: Google, Microsoft y las redes sociales quedan bajo presión para adoptar políticas igual de explícitas. Sin embargo, la aplicación de la norma será un desafío. Los desarrolladores pueden disfrazar funciones prohibidas, migrar a aplicaciones web o distribuir sus productos a través de mercados alternativos. Aunque una app sea retirada, los modelos de IA que la sostienen pueden seguir accesibles en otros lugares. Es decir, los vetos de plataforma son solo una parte de la solución. También hacen falta leyes más firmes, apoyo a las víctimas, marcas de agua, detección de contenido y procesos de retirada más rápidos. La decisión de Apple deja ver que la compañía considera la NCII un daño claro y no una zona gris. Ahora tendrá que demostrar que su proceso de revisión es capaz de detectar a los infractores antes de que lleguen a los usuarios. Por lo pronto, las reglas actualizadas envían un mensaje: el consentimiento importa y el abuso generado con IA no se tratará como entretenimiento cualquiera. El debate probablemente siga creciendo a medida que las herramientas de generación de imágenes mejoren y se extiendan a más servicios.