Segurança de IA ignora danos cotidianos, dizem críticos

Um artigo de opinião da MIT Technology Review argumenta que o debate sobre segurança de IA ficou focado demais em cenários catastróficos e não o suficiente nos danos do dia a dia que sistemas de IA podem causar. Os autores afirmam que o sucesso em política de tecnologia costuma ser definido de maneira estreita. Eles citam exemplos como um chatbot que promete não incentivar o suicídio ou uma plataforma que dificulta que crianças comprem fentanil. Essas proteções importam, mas não capturam as formas rotineiras pelas quais a IA pode enganar pessoas, discriminar grupos, explorar usuários ou erodir a confiança pública. A crítica é um lembrete de que segurança não é só evitar falhas raras e dramáticas. Também é sobre falhas comuns que aparecem em resultados de busca, recomendações, decisões automatizadas e ferramentas de atendimento ao cliente. Esses problemas podem ser mais difíceis de ver porque estão distribuídos por milhões de interações e muitas vezes atingem com mais força pessoas com menos poder para contestá-los. Os autores querem que formuladores de políticas e empresas ampliem sua definição de dano e meçam sucesso pela capacidade de os sistemas de IA serem justos, honestos e responsabilizáveis no uso diário. Isso significaria olhar além de benchmarks de modelos e exercícios de prontidão para desastres, alcançando design de produto, incentivos de negócio e reparação ao usuário. O argumento não descarta o risco catastrófico. Em vez disso, diz que focar apenas em resultados extremos pode deixar o público desprotegido contra danos menores, mas mais frequentes, que moldam a confiança na IA. Para empresas, a mensagem é que o trabalho de segurança deve incluir auditorias, transparência, mecanismos de reclamação e evidência de que os sistemas funcionam bem para as comunidades afetadas, não apenas garantias de que o pior cenário foi considerado.