CEO da Anthropic quer frear a IA

O CEO da Anthropic, Dario Amodei, delineou um plano para desacelerar o ritmo do desenvolvimento da IA, propondo que avaliadores independentes terceirizados, como o METR, tenham acesso aos seus modelos para verificar a adesão a práticas e compromissos de segurança. A proposta apareceu em um longo ensaio no qual Amodei descreveu uma abordagem em três etapas para ritmar a fronteira, expressão que se tornou sinônimo de contenção coordenada entre os principais laboratórios de IA. A ideia central é que compromissos voluntários não bastam por si sós. Sem verificação externa, laboratórios podem afirmar que seguem práticas de segurança sem que ninguém possa confirmar. Ao convidar avaliadores externos, Amodei argumenta que a credibilidade exige transparência e escrutínio independente, mesmo quando esse escrutínio é inconveniente. O framework em três etapas pretende dar aos laboratórios uma forma estruturada de desacelerar quando certos limiares de risco são aproximados, em vez de depender de decisões ad hoc tomadas sob pressão competitiva. Essa pressão é intensa: a corrida para construir modelos mais capazes acelerou dramaticamente, e qualquer laboratório que pause unilateralmente corre o risco de ficar atrás de rivais que não o fazem. O que torna o ensaio notável é o aparente alinhamento entre concorrentes. Sam Altman, da OpenAI, expressou sentimentos semelhantes sobre a necessidade de medidas de segurança coordenadas, sugerindo um grau incomum de convergência entre duas das principais empresas de IA. Se essa convergência reflete preocupação genuína compartilhada ou um esforço estratégico para moldar a regulação permanece uma questão em aberto. Céticos apontam que a ritmagem voluntária enfrenta um problema fundamental de ação coletiva. Se apenas alguns laboratórios desacelerarem, outros podem capturar os benefícios de avançar mais rápido. Aplicação, verificação e coordenação internacional permanecem todas sem solução. Ainda assim, a proposta adiciona impulso a uma conversa mais ampla sobre como o desenvolvimento de IA de fronteira deve ser governado, e pressiona outros laboratórios a explicar como verificariam suas próprias alegações de segurança.