OpenAI, Anthropic e Google discutem segurança de IA

A OpenAI confirmou que tem mantido conversações com a Anthropic e a Google DeepMind sobre segurança de IA durante várias semanas. As discussões reúnem alguns dos laboratórios mais proeminentes num momento em que os seus líderes, incluindo Dario Amodei, Sam Altman e Demis Hassabis, têm alertado publicamente para os riscos de modelos cada vez mais capazes. Esses avisos tornaram-se mais incisivos à medida que os sistemas ficam melhores a raciocinar, a programar e a agir através de ferramentas. Ainda assim, as conversas decorrem num ambiente político profundamente dividido. A administração Trump tem descartado muitas preocupações de segurança e sublinhado a necessidade de acompanhar a China, enquadrando a IA sobretudo como uma competição estratégica. Este contraste evidencia um fosso crescente entre os apelos de cautela vindos da indústria e uma agenda governamental focada em velocidade e competitividade. As conversas podem dar origem a padrões técnicos partilhados, métodos de avaliação comuns ou compromissos em torno de capacidades perigosas. Também podem ficar essencialmente no plano simbólico, se a pressão competitiva desincentivar os laboratórios a abrandar. A coordenação é difícil porque as mesmas empresas são rivais a competir para lançar produtos, atrair talento e garantir recursos de computação. Qualquer acordo sobre práticas de segurança levanta questões sobre concorrência, transparência e se laboratórios privados devem fixar regras para uma tecnologia com consequências públicas amplas. Mesmo assim, o simples facto de estas conversas existirem sugere que os líderes dos laboratórios veem alguns riscos como demasiado sérios para serem tratados sozinhos. O desafio será transformar conversas privadas em salvaguardas verificáveis. Sem supervisão independente, o público terá dificuldade em avaliar se os compromissos são realmente relevantes. Com a regulação bloqueada ou contestada, os esforços da própria indústria podem tornar-se o quadro de segurança de facto, para o melhor e para o pior. Os próximos meses mostrarão se a cooperação sobrevive aos incentivos comerciais.