Estudo aponta viés político forte em modelos de IA

Um novo estudo identificou diferenças profundas na maneira como dois modelos líderes de IA respondem a perguntas políticas. O Grok recomenda candidatos republicanos de forma esmagadora, enquanto o GPT, da OpenAI, tende a favorecer democratas. Os dois modelos discordaram em mais de 90% das quase 500 disputas eleitorais examinadas. O resultado reforça a preocupação com viés político em assistentes de IA que eleitores podem consultar para se informar sobre candidatos e eleições. O estudo não estabelece por que os modelos divergem. Entre os fatores possíveis estão os dados de treinamento, os prompts de sistema, o ajuste fino e as decisões de alinhamento tomadas pelos desenvolvedores. Até pequenas diferenças na forma como um modelo é instruído ou como pondera fontes podem moldar as respostas, sobretudo em temas politicamente sensíveis. Por isso, as conclusões escancaram um desafio mais amplo de governança: à medida que os chatbots se tornam interfaces cotidianas de notícias e pesquisa, suas respostas podem carregar uma aparência de neutralidade que não se sustenta. Para o eleitor, o risco prático não é apenas o fato de o modelo ter uma preferência. É que o usuário pode tratar uma resposta fluente como um resumo confiável. Se um assistente favorece sistematicamente os candidatos de um partido ou enquadra as disputas de determinada maneira, isso pode influenciar percepções sem revelar a base das recomendações. A divergência entre Grok e GPT também sugere que não existe um único padrão neutro na indústria de IA. Os autores do estudo não afirmam explicar a origem do viés, e mais pesquisas serão necessárias para testar como prompts, versões de modelo e diferentes casos de uso afetam os resultados. Desenvolvedores podem reagir com divulgações mais claras, métodos de avaliação mais robustos e salvaguardas para consultas relacionadas a eleições. Campanhas políticas e reguladores devem acompanhar o tema de perto. A lição maior é que modelos de IA não são espelhos passivos da informação pública. São produtos moldados por decisões de design, e essas decisões podem ter consequências políticas. Com a informação eleitoral passando cada vez mais por chatbots, transparência sobre o comportamento dos modelos e testes independentes serão essenciais para a confiança do público.