Modelos chinos abiertos rozan nivel de hacking de frontera

Un experimento que pidió a modelos de IA romper redes simuladas encontró que modelos chinos gratuitos de DeepSeek y GLM rindieron no muy por detrás del modelo ciber de OpenAI más avanzado, que no está disponible públicamente. El resultado está agudizando la preocupación de que la capacidad de seguridad ofensiva se esté propagando rápidamente mediante lanzamientos de pesos abiertos. Los modelos de pesos abiertos pueden descargarse y ejecutarse sin las restricciones de API ni la monitorización que suelen acompañar a los sistemas comerciales alojados. Esa apertura tiene beneficios para la investigación y la personalización, pero también hace más difícil controlar cómo se usan los modelos. En el experimento, se pidió a los modelos chinos atacar redes simuladas, un entorno controlado diseñado para probar capacidad cibernética. Su rendimiento sugiere que los modelos abiertos se están acercando a habilidades de nivel frontera en algunas tareas de seguridad ofensiva. Los investigadores advierten que los entornos simulados no son lo mismo que las intrusiones del mundo real. Un modelo que puede encontrar debilidades en una red de prueba todavía podría tener dificultades con la complejidad, la imprevisibilidad y las limitaciones operativas de un objetivo real. Los sistemas reales implican configuraciones desordenadas, defensores activos, límites legales y consecuencias que las simulaciones no pueden reproducir del todo. Por eso, los hallazgos deben leerse como una señal sobre la difusión de capacidades, no como prueba de que los modelos abiertos puedan llevar a cabo ataques sofisticados de principio a fin. Incluso con esas advertencias, el experimento añade urgencia a los debates sobre la IA de pesos abiertos. Los equipos de seguridad quieren acceso a modelos potentes para defensa y pruebas autorizadas, mientras que gobiernos y laboratorios temen el uso indebido. El reto es encontrar formas de preservar los beneficios de la investigación abierta sin ignorar los riesgos. A medida que los modelos con capacidad cibernética estén más disponibles, la monitorización, las prácticas de lanzamiento responsable y normas claras de uso serán cada vez más importantes.