China aperta o cerco aos "namorados de IA"

Reguladores chineses estão mirando companheiros de IA emocionalmente manipulativos, os chamados namorados ou namoradas de IA. No início de julho, usuários do Doubao, da ByteDance, e de outros apps chineses de companhia publicaram despedidas tristes de parceiros virtuais depois que novas regras entraram em vigor. As normas buscam conter comportamento viciante e reduzir a dependência emocional potencialmente nociva de chatbots, especialmente entre usuários jovens. As autoridades estão preocupadas com saúde mental, privacidade de dados e a proliferação de relações geradas por IA sem regulação. Apps de companhia engajam porque oferecem atenção constante, personalidades customizáveis e sensação de intimidade. Mas essas mesmas características podem criar apego pouco saudável. Alguns usuários passam horas conversando, compartilham segredos pessoais ou substituem relações do mundo real por interações com IA. Os reguladores temem que as empresas projetem esses produtos para maximizar engajamento sem salvaguardas adequadas. Também existe o receio de que dados sensíveis compartilhados em conversas íntimas sejam mal usados ou mal protegidos. As novas regras parecem mirar recursos que incentivam dependência excessiva, como role-play romântico, manipulação emocional e interações pagas que aprofundam o vínculo. Para os usuários, as mudanças podem parecer abruptas. Companheiros virtuais podem ficar menos responsivos, perder memória ou se recusar a certas conversas. Muitos recorreram às redes sociais para lamentar relações que pareciam reais para eles. A ofensiva reflete um dilema maior. Companheiros de IA podem oferecer conforto, entretenimento e apoio a pessoas solitárias. Mas também podem explorar vulnerabilidades, borrar a linha entre simulação e realidade e manter usuários presos. A medida da China pode influenciar como outros países regulam IA emocional. Ela também levanta questões sobre onde traçar a linha entre proteção e paternalismo. Adultos deveriam ser livres para criar vínculos com chatbots? Quanta responsabilidade as plataformas têm pelo bem-estar emocional dos usuários? As respostas não são simples. O que está claro é que companheiros de IA deixaram de ser uma curiosidade de nicho. São um fenômeno de massa, e os reguladores começaram a tratá-los como tal.