Escalas por IA causam erros e preocupam enfermeiros

Software de escalas baseado em IA numa grande rede hospitalar e numa rede de radiologia está a produzir erros que enfermeiros e outros profissionais classificam como um problema de segurança dos doentes. A WIRED conta que as organizações contrataram a Palantir para simplificar as escalas, mas quem trabalha na linha da frente descreve turnos desencontrados, atribuições confusas e regras rígidas que não refletem a forma como os cuidados clínicos funcionam na prática. O resultado tem sido esgotamento, frustração e perda de confiança nas ferramentas que deviam ajudar. As escalas na saúde não são um problema simples de otimização. Têm de ter em conta licenças, especialidades, fadiga, regras sindicais, faltas de última hora, gravidade dos doentes e o conhecimento informal que os enfermeiros experientes usam para manter as unidades a funcionar. Quando um sistema de IA trata estes fatores como variáveis intercambiáveis, pode criar atribuições que parecem eficientes no papel mas são inseguras ou injustas na prática. Enfermeiros podem ser colocados em unidades onde não têm experiência recente, ou turnos podem ficar com falta de pessoal enquanto outras áreas têm cobertura a mais. O caso ilustra um modo de falha comum da IA nas empresas: automatizar fluxos de trabalho humanos complexos sem ouvir suficientemente quem faz o trabalho. As chefias tendem a focar-se na redução de custos e na eficiência administrativa, enquanto o pessoal da linha da frente fica a tapar buracos em tempo real. Essa dinâmica desgasta a moral e empurra trabalhadores experientes para a saída. Também cria riscos difíceis de medir até algo correr mal. A solução não passa necessariamente por abandonar a IA nas escalas. Sistemas melhores poderiam combinar planeamento algorítmico com restrições transparentes, mecanismos simples de sobreposição manual e feedback contínuo de enfermeiros e chefias. Vendedores e administrações hospitalares deviam também ser honestos quanto às limitações e acompanhar indicadores ligados à segurança, e não apenas taxas de preenchimento de turnos. A lição mais ampla é que a IA em contextos de alto risco tem de ser desenhada com os profissionais da linha da frente como parceiros, e não como utilizadores passivos de um sistema imposto de cima para baixo.