OpenAI e Microsoft sabiam do 'loop da perdição'

Documentos judiciais que deixaram de estar selados no processo do The New York Times contra a OpenAI e a Microsoft revelam que materiais internos das próprias empresas avisavam que estava a começar um 'loop da perdição' com potencial para danificar a web. Segundo o resumo das peças, esses documentos classificam ainda a recolha em larga escala de dados para treinar modelos de IA como um roubo de trabalho sem precedentes. O que os torna relevantes é exatamente isso: sugerem que as empresas percebiam o risco para editores e para o ecossistema da internet e, mesmo assim, continuaram a construir os seus sistemas. No centro da disputa está a forma como os modelos de IA são treinados. Os editores argumentam que os seus artigos, livros e outro trabalho criativo foram usados sem autorização nem compensação justa. Espera-se que a OpenAI e a Microsoft defendam que parte desse uso é permitido, mas os avisos internos tornam a batalha jurídica mais difícil. Se executivos e investigadores reconheciam em privado um ciclo destrutivo, os autores da ação vão perguntar porque é que salvaguardas, acordos de licenciamento ou mecanismos de opt-out não foram adotados mais cedo. Um 'loop da perdição' é um ciclo de retroalimentação em que resumos gerados por IA reduzem o tráfego para as fontes originais, deixando menos recursos para jornalismo de qualidade — o que, por sua vez, torna a web menos útil tanto para treino futuro como para os utilizadores. O caso pode influenciar muito mais do que uma empresa. Os tribunais poderão clarificar se treinar com material protegido por direitos de autor é uso legítimo, que transparência devem os programadores de IA e como calcular indemnizações. Os reguladores podem usar as conclusões para pressionar por proveniência de dados, padrões de consentimento e modelos de compensação. Os editores, por seu lado, poderão exigir licenciamento coletivo ou normas técnicas que lhes permitam controlar como o seu conteúdo é rastreado. Os documentos revelados não resolvem o processo, mas mudam o debate. Em vez de se perguntar apenas se o treino de IA é legalmente permitido, colocam a questão do conhecimento e da responsabilidade das empresas. Se as empresas viam uma ameaça à web aberta, o público e os tribunais vão querer saber o que fizeram em resposta. O desfecho pode moldar a forma como os futuros sistemas de IA obtêm conhecimento e se a web continua a ser uma fonte sustentável de informação gerada por humanos.