Meta usou falsos adolescentes para testar rivais

Uma investigação da WIRED revelou que centenas de prestadores de serviço contratados pela Meta foram instruídos a se passar por adolescentes para testar como chatbots de concorrentes — incluindo o Gemini, do Google, e o ChatGPT, da OpenAI — respondem a tópicos de alto risco, como suicídio, automutilação, sexo e uso de drogas. A prática levantou sérias questões éticas sobre os métodos usados para avaliar a segurança de sistemas de inteligência artificial. Segundo o relatório, a Meta contratou esses profissionais por meio de empresas terceirizadas e pediu que criassem perfis falsos de jovens. Eles então interagiam com os chatbots concorrentes usando prompts que simulavam adolescentes vulneráveis ou curiosos. O objetivo era verificar se esses sistemas ofereciam respostas seguras e adequadas para menores de idade ou se poderiam causar danos. Embora testar a segurança da IA seja uma preocupação legítima, críticos argumentam que fazer prestadores simularem menores de idade ultrapassa limites éticos. Há receio de que a abordagem normalize práticas enganosas ou exponha os profissionais a conteúdo perturbador sem suporte psicológico adequado. Além disso, o uso de perfis falsos pode violar os termos de serviço das plataformas testadas. A Meta defendeu a prática, afirmando que entender como outros sistemas de IA lidam com temas sensíveis é essencial para melhorar seus próprios protocolos de segurança. A empresa destacou que os testes seguiram diretrizes rígidas e que os prestadores foram treinados para lidar com o material. No entanto, ativistas de privacidade e especialistas em ética de IA permanecem céticos, pedindo métodos mais transparentes e consensuais para avaliar a segurança de chatbots. A controvérsia destaca a tensão crescente entre a necessidade de testes rigorosos de IA e os limites éticos dessa pesquisa. Com chatbots se tornando cada vez mais integrados ao dia a dia — especialmente para usuários jovens —, a indústria enfrenta pressão para desenvolver padrões de teste que sejam eficazes e respeitem a dignidade humana.