OpenAI, Anthropic y DeepMind discuten seguridad de la IA

OpenAI ha confirmado que mantiene conversaciones con Anthropic y Google DeepMind sobre seguridad en IA desde hace varias semanas. Los diálogos reúnen a algunos de los laboratorios más destacados en un momento en que sus líderes —Dario Amodei, Sam Altman y Demis Hassabis— han advertido públicamente sobre los riesgos de modelos cada vez más capaces. Esas advertencias se han vuelto más incisivas a medida que los sistemas mejoran en razonamiento, programación y actuación a través de herramientas. Sin embargo, las conversaciones se desarrollan en un entorno político muy dividido. La administración Trump ha desestimado muchas preocupaciones de seguridad y ha puesto el acento en la necesidad de no quedarse atrás frente a China, enmarcando la IA sobre todo como una competencia estratégica. El contraste evidencia una brecha creciente entre los llamados de la industria a la prudencia y una agenda gubernamental centrada en la velocidad y la competitividad. Las conversaciones podrían dar lugar a estándares técnicos compartidos, métodos comunes de evaluación o compromisos sobre capacidades peligrosas. También podrían quedarse en algo simbólico si la presión competitiva desincentiva a los laboratorios a frenar. Coordinarse es difícil porque esas mismas empresas son rivales que compiten por lanzar productos, atraer talento y asegurar recursos de cómputo. Cualquier acuerdo sobre prácticas de seguridad puede abrir preguntas sobre antitrust, transparencia y si los laboratorios privados deberían fijar las reglas de una tecnología con amplias consecuencias públicas. Aun así, el simple hecho de que estas conversaciones ocurran sugiere que sus líderes ven algunos riesgos como demasiado importantes para abordarlos en solitario. El desafío será convertir diálogos privados en salvaguardas verificables. Sin supervisión independiente, al público le costará juzgar si los compromisos son significativos. Con la regulación estancada o cuestionada, los esfuerzos de la propia industria pueden convertirse en el marco de seguridad de facto, para bien o para mal. Los próximos meses revelarán si la cooperación sobrevive a los incentivos comerciales.