Estudio detecta fuerte sesgo político en modelos de IA

Un nuevo estudio ha encontrado diferencias marcadas en cómo responden dos modelos de IA líderes ante consultas políticas: Grok recomienda de forma abrumadora a candidatos republicanos y el GPT de OpenAI favorece a los demócratas. Los dos modelos discreparon en más del 90 % de casi 500 contiendas electorales examinadas. Los resultados alimentan la preocupación por el sesgo político de unos asistentes a los que los votantes pueden recurrir para informarse sobre candidatos y elecciones. El estudio no establece por qué divergen los modelos. Entre los factores posibles están los datos de entrenamiento, los prompts de sistema, el ajuste fino y las decisiones de alineación que toman los desarrolladores. Diferencias mínimas en cómo se instruye a un modelo o en cómo pondera sus fuentes pueden moldear las respuestas que ofrece, sobre todo en cuestiones políticamente sensibles. Los hallazgos ponen de relieve, por tanto, un reto de gobernanza más amplio: a medida que los chatbots se convierten en interfaces cotidianas para informarse e investigar, sus respuestas pueden transmitir una apariencia de neutralidad que no está justificada. Para los votantes, el riesgo práctico no es solo que un modelo tenga preferencias. Es que los usuarios traten una respuesta fluida como un resumen fiable. Si un asistente favorece sistemáticamente a los candidatos de un partido o enmarca las contiendas de una manera concreta, podría influir en la percepción pública sin revelar en qué se basan sus recomendaciones. La discrepancia entre Grok y GPT también sugiere que no existe un único punto de partida neutral en la industria de la IA. Los autores del estudio no afirman explicar la causa del sesgo, y hará falta más investigación para comprobar cómo afectan a los resultados los prompts, las versiones de los modelos y los casos de uso. Los desarrolladores podrían responder con advertencias más claras, métodos de evaluación más sólidos y salvaguardas para las consultas relacionadas con elecciones. Es probable que las campañas políticas y los reguladores presten mucha atención. La lección de fondo es que los modelos de IA no son espejos pasivos de la información pública. Son productos moldeados por decisiones de diseño, y esas decisiones pueden tener consecuencias políticas. A medida que la información electoral circula cada vez más a través de chatbots, la transparencia sobre el comportamiento de los modelos y las pruebas independientes serán imprescindibles para la confianza pública.