Meta usó contratistas fingiendo ser adolescentes para probar chatbots rivales

Una investigación de WIRED destapó que cientos de contratistas que trabajan para Meta recibieron instrucciones de hacerse pasar por adolescentes para evaluar cómo los chatbots de la competencia —como Gemini de Google y ChatGPT de OpenAI— manejan temas de alto riesgo como el suicidio, la autolesión, el sexo y el consumo de drogas. Esta metodología ha encendido alarmas éticas en la comunidad tecnológica. Según el reporte, Meta contrató a estas personas a través de empresas externas y les pidió crear perfiles falsos de jóvenes. Luego, debían interactuar con los chatbots usando mensajes que simulaban a un adolescente curioso o vulnerable. El objetivo era ver si esos sistemas ofrecían respuestas seguras y adecuadas para menores, o si podían llegar a ser perjudiciales. Aunque probar la seguridad de la IA es válido, críticos señalan que simular ser un menor de edad cruza una línea ética. Temen que esto normalice prácticas engañosas y exponga a los contratistas a contenido perturbador sin apoyo psicológico suficiente. Además, el uso de identidades falsas podría violar los términos de servicio de las plataformas evaluadas. Meta defendió la medida argumentando que entender cómo otros sistemas de IA manejan temas sensibles es clave para mejorar sus propios protocolos de seguridad. La empresa aseguró que las pruebas siguieron lineamientos estrictos y que los contratistas estaban capacitados. No obstante, defensores de la privacidad y especialistas en ética de IA piden métodos más transparentes y consensuados. El caso refleja la creciente tensión entre la necesidad de pruebas rigurosas en IA y los límites éticos de la investigación. Con los chatbots integrándose cada vez más en la vida diaria —especialmente entre los más jóvenes—, la industria enfrenta presión para crear estándares de prueba que sean efectivos y respetuosos con la dignidad humana.