Lixo gerado por IA inunda publicação científica

A IEEE Spectrum destacou o problema crescente do lixo gerado por IA na publicação acadêmica por meio da experiência de um autor que usou IA para produzir um artigo científico falso. O relato mostra como conteúdo massificado e de baixa qualidade pode ser criado rapidamente e como é difícil para revistas e revisores acompanhar o ritmo. O experimento não é apenas uma curiosidade. Ele ilustra uma pressão maior sobre a publicação científica, onde editores já lidam com alto volume de submissões e revisores doam tempo limitado. Quando artigos aparentemente convincentes podem ser gerados em escala, cresce o risco de esforço de revisão desperdiçado, literatura poluída e confiança enfraquecida. O artigo menciona estimativas que sugerem que uma grande parte dos artigos publicados mostra sinais de envolvimento de IA, embora esses sinais possam ser ambíguos e nem sempre indiquem má conduta. O experimento com o artigo falso reforça por que ferramentas de detecção, regras claras de divulgação e uma triagem editorial mais forte estão se tornando mais importantes. As revistas precisam de formas de verificar autores, checar dados e citações e identificar artigos plausíveis no estilo, mas fracos em substância. Ao mesmo tempo, a triagem não pode depender apenas de detectores de IA, já que eles podem gerar falsos positivos e deixar passar textos cuidadosamente editados. O desafio mais profundo é estrutural. Os incentivos acadêmicos recompensam volume de publicação, e a IA torna mais barato produzir conteúdo que parece scholarship sem adicionar evidência ou insight real. Editoras podem precisar apertar requisitos de submissão, exigir métodos e disponibilidade de dados mais detalhados e investir em julgamento editorial humano onde isso mais importa. O objetivo não é banir ferramentas de IA de forma indiscriminada, mas impedir que elas se tornem um atalho que mina o registro do conhecimento científico. Se as revistas não se adaptarem, o custo recairá sobre leitores, revisores e a credibilidade da própria pesquisa.