Juiz Decide que Uso do ChatGPT pelo DOGE para Cancelar Subsídios é Inconstitucional

Em uma decisão histórica que causou ondas de choque na burocracia federal, um juiz distrital dos EUA decidiu que o uso do ChatGPT pelo Departamento de Eficiência Governamental (DOGE) para cancelar mais de 100 milhões de dólares em subsídios foi inconstitucional. A decisão de 143 páginas não mediu palavras, descrevendo o processo da agência como 'burro e ilegal'. O caso centrou-se na prática controversa do DOGE de alimentar pedidos de subsídios no ChatGPT da OpenAI e usar as recomendações da IA para determinar quais programas desfinanciar. De acordo com documentos judiciais, a agência ignorou protocolos de revisão padrão, incluindo avaliação por pares e requisitos legais de aviso público, em favor de cortes rápidos orientados por IA. O juiz considerou que essa delegação de autoridade decisória a um algoritmo violou a Lei de Procedimento Administrativo e a separação constitucional de poderes. Especialistas jurídicos dizem que a decisão estabelece um precedente crítico para o escrutínio judicial da IA no governo. 'Este é um alerta para qualquer agência que pense que pode terceirizar suas obrigações legais para um chatbot', disse a professora de direito constitucional Sarah Chen. 'O tribunal deixou claro que as ferramentas de IA podem auxiliar, mas não podem substituir, o julgamento humano em questões de financiamento público.' A decisão também levantou alarmes sobre privacidade de dados, já que os pedidos de subsídios frequentemente continham informações pessoais e financeiras sensíveis. O juiz observou que o DOGE não realizou nenhuma avaliação de impacto na privacidade antes de alimentar dados em um sistema de IA de terceiros. O DOGE anunciou que recorrerá da decisão, argumentando que as ferramentas de IA são necessárias para modernizar a eficiência governamental. No entanto, a decisão já levou várias agências federais a pausar seus próprios programas piloto de IA, pendentes de revisão. Por enquanto, os subsídios cancelados devem ser restabelecidos, e o Congresso está considerando uma legislação para proibir explicitamente a IA de tomar decisões finais sobre financiamento federal. Este caso marca um momento crucial no debate em andamento sobre o papel apropriado da inteligência artificial.