Anthropic e OpenAI querem avaliadores de segurança internos

Anthropic e OpenAI estão explorando uma abordagem nova para segurança de IA: colocar avaliadores independentes dentro dos próprios laboratórios. A ideia é dar a especialistas externos acesso antecipado a modelos, pipelines de treinamento e decisões de implantação, para que riscos sejam identificados antes de os produtos chegarem ao público. Pesquisadores dizem que esse nível de acesso é inédito. Ele poderia permitir que avaliadores influenciassem escolhas de design, testassem capacidades perigosas e sinalizassem problemas enquanto corrigi-los ainda é barato. Defensores argumentam que a análise interna captura questões mais rápido do que auditorias externas feitas depois que o modelo já foi lançado. Críticos, porém, alertam que avaliadores embutidos podem sofrer pressão para suavizar conclusões. Se o financiamento, as perspectivas de carreira ou o próprio acesso dependem dos laboratórios, eles conseguem realmente desafiar prioridades comerciais? Independência, transparência e linhas de reporte claras seriam essenciais. Os avaliadores também precisariam poder publicar preocupações, escalar para reguladores e sair sem retaliação. O debate reflete uma questão mais ampla na governança de IA: a supervisão interna voluntária funciona em empresas que correm para construir sistemas poderosos? Alguns especialistas veem a revisão embutida como um paliativo útil, não como substituto da regulação. Eles querem auditorias externas obrigatórias, padrões de segurança e responsabilização legal. Outros acreditam que a colaboração próxima entre laboratórios e avaliadores pode melhorar a cultura de segurança e acelerar salvaguardas. Por ora, Anthropic e OpenAI sinalizaram interesse, mas os detalhes seguem indefinidos. O teste decisivo será saber se os avaliadores embutidos terão poder real ou se virarão apenas uma camada de relações públicas. Se puderem desafiar lideranças, influenciar lançamentos e divulgar riscos, o modelo pode melhorar de forma significativa a prestação de contas. Caso contrário, pode criar uma ilusão de supervisão enquanto as decisões importantes continuam com os laboratórios.