CEO de DeepMind propone un organismo independiente para regular la IA

El CEO de DeepMind, Demis Hassabis, ha presentado una propuesta audaz para crear un organismo independiente de estándares que regule la inteligencia artificial de frontera. En una entrevista reciente, Hassabis sugirió modelar esta nueva organización siguiendo el ejemplo de la FINRA (Autoridad Reguladora de la Industria Financiera), que supervisa las firmas de valores en Estados Unidos. El organismo propuesto sería responsable de probar los modelos de IA de frontera antes de que sean lanzados al público. Desarrollaría mejores prácticas para un despliegue seguro, establecería puntos de referencia para el rendimiento y la seguridad, y responsabilizaría a las empresas por las infracciones. Hassabis argumenta que el actual mosaico de compromisos voluntarios y revisiones internas de seguridad es insuficiente dado el rápido ritmo del avance de la IA. “Necesitamos una organización independiente, liderada por expertos, que pueda evaluar estos modelos de manera objetiva”, dijo Hassabis. “Hay demasiado en juego como para dejar la seguridad completamente en manos de empresas individuales”. El organismo tendría autoridad para realizar auditorías, exigir modificaciones en los modelos e incluso detener lanzamientos si no se cumplen los estándares de seguridad. Este llamado llega en un momento en que las preocupaciones sobre la seguridad de la IA están creciendo. Incidentes recientes que involucran modelos vulnerados, resultados sesgados y posible uso indebido han puesto de relieve la necesidad de marcos de gobernanza sólidos. La propuesta de Hassabis es notable porque proviene de dentro de la industria, lo que indica que incluso los líderes de IA reconocen los límites de la autorregulación. Si bien la idea ha recibido apoyo de algunos investigadores y formuladores de políticas, también plantea preguntas sobre su implementación. ¿Quién financiaría un organismo así? ¿Cómo podría mantenerse al día con una tecnología que evoluciona rápidamente? ¿Y las empresas cumplirían voluntariamente? A pesar de estos desafíos, la propuesta de Hassabis representa un paso significativo hacia un ecosistema de IA más estructurado y responsable.