El CEO de Anthropic propone frenar el desarrollo de la IA

Dario Amodei, CEO de Anthropic, ha esbozado un plan para ralentizar el ritmo del desarrollo de la IA. Su propuesta es que evaluadores independientes externos, como METR, tengan acceso a sus modelos para verificar el cumplimiento de prácticas y compromisos de seguridad. La idea aparece en un extenso ensayo donde Amodei describe un enfoque en tres pasos para marcar el ritmo de la frontera, una frase que se ha convertido en sinónimo de contención coordinada entre los principales laboratorios de IA. La idea central es que los compromisos voluntarios no bastan por sí solos. Sin verificación externa, los laboratorios pueden decir que siguen prácticas de seguridad sin que nadie pueda confirmarlo. Al invitar a evaluadores de fuera, Amodei sostiene que la credibilidad exige transparencia y escrutinio independiente, incluso cuando ese escrutinio resulta incómodo. El marco de tres pasos busca dar a los laboratorios una forma estructurada de frenar cuando se acercan ciertos umbrales de riesgo, en lugar de depender de decisiones improvisadas tomadas bajo presión competitiva. Esa presión es intensa: la carrera por construir modelos más capaces se ha acelerado de forma drástica, y cualquier laboratorio que se detenga por su cuenta corre el riesgo de quedar atrás frente a rivales que no lo hagan. Lo que hace notable el ensayo es la aparente sintonía entre competidores. Sam Altman, de OpenAI, ha expresado ideas similares sobre la necesidad de medidas de seguridad coordinadas, lo que sugiere un grado inusual de convergencia entre dos de las empresas líderes de IA. Si esa convergencia refleja una preocupación genuina compartida o un esfuerzo estratégico por moldear la regulación sigue siendo una pregunta abierta. Los escépticos señalan que la moderación voluntaria enfrenta un problema fundamental de acción colectiva. Si solo algunos laboratorios bajan el ritmo, otros podrían quedarse con los beneficios de ir más rápido. La aplicación, la verificación y la coordinación internacional siguen sin resolverse. Aun así, la propuesta suma impulso a una conversación más amplia sobre cómo debería gobernarse el desarrollo de la IA de frontera, y presiona a otros laboratorios a explicar cómo verificarían sus propias afirmaciones de seguridad.