Aún no sabemos cómo se usa la IA de verdad

Un informe de MIT Technology Review destaca un problema fundamental en la industria de la IA: todavía no tenemos datos independientes y confiables sobre cómo la gente usa realmente herramientas de IA como ChatGPT y Claude. Empresas de IA como Anthropic y OpenAI publican informes de uso regularmente, pero los investigadores argumentan que estos son selectivos y solo publican datos que las empresas quieren que el público vea. No hay una fuente independiente que corrobore estas afirmaciones, dice Anka Reuel, candidata a doctorado citada en el informe. Esta falta de transparencia dificulta entender el verdadero impacto social de estas tecnologías. Sin datos imparciales, los responsables de políticas, investigadores y el público quedan dependiendo de narrativas corporativas que pueden estar moldeadas por objetivos de marketing. Por ejemplo, una empresa podría resaltar números impresionantes de usuarios mientras minimiza usos dañinos o la frecuencia de errores. Esta asimetría de información es particularmente preocupante a medida que las herramientas de IA se integran en decisiones de educación, salud y empleo. Las afirmaciones sobre ganancias de productividad o satisfacción del usuario no pueden verificarse adecuadamente, lo que lleva a una imagen distorsionada de los efectos reales de la IA. El informe pide más investigación independiente y auditorías de terceros sobre el uso de la IA. Esto podría implicar asociaciones con instituciones académicas, la publicación de conjuntos de datos anonimizados o la creación de observatorios públicos para rastrear la adopción de la IA. Sin tales medidas, corremos el riesgo de tomar decisiones políticas y de inversión basadas en información incompleta o sesgada. Los autores argumentan que entender cómo la gente usa realmente la IA es esencial para abordar problemas como la desinformación, el desplazamiento laboral y el sesgo algorítmico. Hasta entonces, la verdadera escala y naturaleza del uso de la IA sigue siendo un misterio, oculto detrás de las puertas corporativas.