Nueva York confisca una docena de webs de deepfakes

La Fiscalía del Distrito de Manhattan ha incautado 12 sitios web que alojaban deepfakes de celebridades, en lo que las autoridades describen como una de las mayores acciones legales hasta ahora contra contenido dañino generado con IA. Los sitios están acusados de usar inteligencia artificial para crear imágenes íntimas sin consentimiento y otro material fraudulento. Según los funcionarios, la operación alcanzó a alrededor de 1.200 víctimas, una cifra que muestra lo rápido que el abuso con deepfakes puede escalar en internet. La incautación envía un aviso claro: las autoridades empiezan a tratar la explotación generada por IA como un asunto criminal serio y no como un problema marginal de la red. Las autoridades señalaron que los sitios violaron leyes contra la exhibición indecente y el acoso. El caso también refleja la preocupación creciente por la facilidad con la que se pueden producir y distribuir imágenes y vídeos falsos pero realistas. Las celebridades son blanco frecuente, pero las mismas herramientas pueden usarse contra personas comunes, incluidas exparejas, compañeros de trabajo o desconocidos. Para las víctimas, el daño puede ser inmediato y duradero, y afectar a su reputación, su salud mental y su seguridad personal. La acción contra estos sitios puede que no elimine el abuso con deepfakes, pero podría desarticular una red de distribución importante y desanimar a otros a alojar contenido similar. Los expertos legales estarán atentos a cómo la fiscalía construye el caso, sobre todo porque las leyes sobre deepfakes varían según la jurisdicción y plantean preguntas difíciles sobre la responsabilidad de las plataformas, el anonimato y la libertad de expresión. La incautación también aumenta la presión sobre las tecnológicas y los legisladores para crear protecciones más sólidas, procesos de retirada más rápidos y sanciones más claras. A medida que mejoran los generadores de imágenes y vídeo con IA, la batalla contra los deepfakes sin consentimiento probablemente se intensificará. Este caso demuestra que las autoridades están dispuestas a usar incautaciones y cargos penales para frenar el fenómeno.