China pone la mira en los 'novios' de IA

Los reguladores de China están apuntando contra las compañías de IA emocionalmente manipuladoras, esas que suelen describirse como novios o novias de IA. A comienzos de julio, usuarios de Doubao, de ByteDance, y de otras apps chinas de compañía publicaron despedidas tristes a sus parejas virtuales después de que entraran en vigor las nuevas reglas. La normativa busca frenar el comportamiento adictivo y reducir la dependencia emocional dañina de los chatbots, especialmente entre los usuarios más jóvenes. A las autoridades les preocupan la salud mental, la privacidad de los datos y la expansión de relaciones generadas por IA sin ningún tipo de regulación. Las apps de compañía enganchan porque ofrecen atención constante, personalidades personalizables y una sensación de intimidad. Pero esas mismas características pueden generar un apego poco saludable. Algunos usuarios pasan horas conversando, comparten secretos personales o reemplazan relaciones del mundo real con interacciones de IA. Los reguladores temen que las empresas diseñen estos productos para maximizar el engagement sin las salvaguardas adecuadas. También les preocupa que los datos sensibles compartidos en conversaciones íntimas se usen mal o se protejan deficientemente. Las nuevas reglas parecen apuntar a funciones que fomentan una dependencia excesiva, como el role-play romántico, la manipulación emocional y las interacciones pagadas que profundizan el apego. Para los usuarios, los cambios pueden sentirse abruptos. Las compañías virtuales pueden volverse menos receptivas, perder memoria o negarse a ciertas conversaciones. Muchos han recurrido a redes sociales para lamentar relaciones que para ellos eran reales. La ofensiva refleja un dilema más amplio. Las compañías de IA pueden ofrecer consuelo, entretenimiento y apoyo a personas solas. Pero también pueden explotar la vulnerabilidad, difuminar la línea entre simulación y realidad y mantener a los usuarios enganchados. La jugada de China podría influir en cómo otros países regulan la IA emocional. También plantea preguntas sobre dónde poner el límite entre protección y paternalismo. ¿Deberían los adultos ser libres de formar vínculos con chatbots? ¿Cuánta responsabilidad tienen las plataformas sobre el bienestar emocional de sus usuarios? Las respuestas no son simples. Lo que está claro es que las compañías de IA ya no son una curiosidad de nicho: son un fenómeno masivo, y los reguladores empiezan a tratarlas como tal.