Seguridad de la IA: mirar también lo cotidiano

Una columna de opinión en MIT Technology Review sostiene que el debate sobre seguridad en IA quedó demasiado centrado en escenarios catastróficos y no presta suficiente atención a los daños cotidianos que los sistemas de IA pueden causar. Los autores afirman que el éxito en política tecnológica suele definirse de manera demasiado estrecha. Ponen ejemplos como un chatbot que promete no fomentar el suicidio o una plataforma que dificulta que los niños compren fentanilo. Esas protecciones importan, pero no capturan las formas rutinarias en que la IA puede inducir a error, discriminar a grupos, explotar a usuarios o erosionar la confianza pública. La crítica recuerda que la seguridad no se trata solo de evitar fallas raras y dramáticas. También se trata de las fallas ordinarias que aparecen en resultados de búsqueda, recomendaciones, decisiones automatizadas y herramientas de atención al cliente. Estos problemas pueden ser más difíciles de ver porque están distribuidos en millones de interacciones y suelen golpear más fuerte a quienes tienen menos poder para cuestionarlos. Los autores quieren que reguladores y empresas amplíen su definición de daño y midan el éxito según si los sistemas de IA son justos, honestos y rendidores de cuentas en el uso diario. Eso implicaría mirar más allá de los benchmarks de modelos y de los ejercicios de preparación ante desastres, y poner la lupa en el diseño de producto, los incentivos de negocio y los canales de reclamo para el usuario. El argumento no descarta el riesgo catastrófico. Más bien señala que concentrarse solo en los peores escenarios puede dejar a la ciudadanía sin protección frente a daños más chicos pero más frecuentes, que son los que moldean la confianza en la IA. Para las empresas, el mensaje es que el trabajo de seguridad debería incluir auditorías, transparencia, mecanismos de queja y evidencia de que los sistemas funcionan bien para las comunidades afectadas, y no solo garantías de que se consideró el peor caso.