YouTube y X: puertas de entrada a apps que crean deepfakes sexuales

Un preocupante estudio ha revelado que plataformas de redes sociales como YouTube y X están canalizando involuntariamente a los usuarios hacia sitios web que crean deepfakes sexualmente explícitos sin consentimiento. Estas aplicaciones, conocidas como 'nudify', pueden generar imágenes dañinas por apenas 1 dólar cada una, lo que hace que la tecnología sea alarmantemente accesible. La investigación encontró que estas plataformas actúan como puertas de entrada, permitiendo a los usuarios encontrar fácilmente enlaces e instrucciones para explotar contenido generado por IA con fines maliciosos. Los hallazgos plantean serias preguntas éticas y legales sobre la responsabilidad de las empresas de redes sociales en la moderación de contenido que conduce a este tipo de abuso. Los defensores de los derechos digitales piden una aplicación más estricta de las políticas contra las imágenes no consentidas generadas por IA y una mayor rendición de cuentas para las plataformas que alojan o promocionan dichos enlaces. A medida que las herramientas de IA se vuelven más potentes, la línea entre la libertad creativa y la explotación dañina se vuelve más delgada, lo que exige una atención regulatoria urgente.