Fiscalização do Reino Unido avalia Home Office por ChatGPT

Um órgão de fiscalização do Reino Unido está considerando investigar o uso de tecnologia do ChatGPT pelo Home Office para processar pedidos de asilo, em meio a preocupações com precisão e sigilo. O caso levanta perguntas difíceis sobre se ferramentas de IA são adequadas a decisões públicas de alto impacto envolvendo pessoas vulneráveis e se departamentos do governo estão sendo transparentes sobre como esses sistemas são usados. Decisões de asilo podem mudar a vida das pessoas, então erros, viés ou falta de clareza sobre responsabilidades podem causar danos graves. Defensores da IA na administração pública argumentam que ela pode acelerar tarefas rotineiras, reduzir acúmulos e ajudar agentes públicos a lidar com grandes volumes de informação. Mas os ganhos de eficiência precisam ser pesados contra a necessidade de justiça, explicabilidade e supervisão legal. Se o Home Office usou IA generativa no processamento de pedidos, o público deveria saber qual papel ela teve, quais salvaguardas existiam e se humanos tomaram as decisões finais. O interesse do órgão de fiscalização sugere que os mecanismos atuais de transparência e responsabilização podem não ser suficientes. Também destaca um desafio maior para governos que adotam IA generativa: equilibrar a pressão por modernização dos serviços com a confiança pública. Departamentos precisam de políticas claras sobre proteção de dados, registro de informações e revisão humana. Também devem conseguir demonstrar que decisões assistidas por IA seguem os mesmos padrões dos processos tradicionais. O resultado de qualquer investigação pode criar um precedente importante para o uso de IA por órgãos públicos britânicos em áreas sensíveis. Pode pressionar outros departamentos a divulgar mais sobre suas ferramentas e a estabelecer checagens mais fortes antes de usá-las em decisões que afetam direitos das pessoas.