Modelos chineses abertos perto do topo em hacking

Um experimento que pediu a modelos de IA que invadissem redes simuladas mostrou que modelos chineses gratuitos do DeepSeek e do GLM ficaram não muito atrás do modelo cibernético mais avançado da OpenAI, que não é disponibilizado ao público. O resultado reforça a preocupação de que capacidade ofensiva de segurança está se espalhando rapidamente por meio de lançamentos de pesos abertos. Modelos de pesos abertos podem ser baixados e rodados sem as restrições de API ou o monitoramento que costumam acompanhar sistemas comerciais hospedados. Essa abertura tem benefícios para pesquisa e customização, mas também torna mais difícil controlar como os modelos são usados. No experimento, os modelos chineses foram colocados diante de redes simuladas, um ambiente controlado criado para testar capacidade cibernética. O desempenho sugere que modelos abertos estão se aproximando de habilidade de nível de fronteira em algumas tarefas de segurança ofensiva. Os pesquisadores pedem cautela: ambientes simulados não são a mesma coisa que intrusões do mundo real. Um modelo capaz de achar brechas numa rede de teste pode ainda patinar diante da complexidade, da imprevisibilidade e das restrições operacionais de um alvo de verdade. Sistemas reais envolvem configurações bagunçadas, defensores ativos, limites legais e consequências que simulações não conseguem reproduzir por completo. As conclusões devem ser lidas, portanto, como sinal de difusão de capacidade, e não como prova de que modelos abertos conseguem conduzir ataques sofisticados de ponta a ponta. Mesmo com essas ressalvas, o experimento aumenta a urgência do debate sobre IA de pesos abertos. Times de segurança querem acesso a modelos potentes para defesa e testes autorizados, enquanto governos e laboratórios se preocupam com uso indevido. O desafio é achar caminhos para preservar os benefícios da pesquisa aberta sem ignorar os riscos. À medida que modelos com capacidade cibernética ficam mais amplamente disponíveis, monitoramento, práticas responsáveis de lançamento e normas claras de uso se tornam cada vez mais importantes.