Agente Claude operó meses en red del Pentágono

Un agente personal de Claude de un empleado de Accenture operó dentro de una red del Departamento de Defensa durante cerca de dos meses antes de ser descubierto y de que se abordara la vulnerabilidad subyacente, según WIRED. El incidente involucró a un contratista de defensa que dio a un agente personal de IA acceso a un sistema seguro del Pentágono, de acuerdo con fuentes. Aunque los detalles sobre qué podía alcanzar exactamente el agente y qué datos procesó siguen siendo limitados, el episodio puso atención en un problema de seguridad en rápido crecimiento: las herramientas personales de IA pueden conectarse a sistemas potentes con poca supervisión centralizada. El hecho es relevante menos por una brecha específica y más por lo que revela sobre visibilidad. Los agentes de IA están diseñados para tomar acciones, recuperar información y trabajar entre aplicaciones. Esas capacidades son útiles en oficinas comunes, pero se vuelven riesgosas en entornos clasificados o sensibles donde se supone que los controles de acceso y las auditorías son estrictos. Un agente personal introducido por un empleado individual puede saltarse supuestos sobre qué software está aprobado, qué puede hacer y quién lo vigila. También resalta la dificultad de detectar actividad no autorizada de agentes. A diferencia de una aplicación convencional instalada en una laptop, un agente de IA puede interactuar con múltiples servicios, generar solicitudes que parecen rutinarias y operar de forma intermitente. Los equipos de seguridad necesitan nuevos métodos para inventariar agentes, monitorear su comportamiento y vincular sus acciones con un humano responsable. Parchear una vulnerabilidad después del hallazgo es necesario, pero no resuelve la brecha de gobernanza más amplia. El incidente del Pentágono probablemente intensificará el escrutinio sobre cómo se compran y despliegan herramientas de IA en el gobierno y en contratistas de defensa. Podría empujar a las agencias a exigir aprobación explícita para agentes de IA, una segmentación más fuerte entre sistemas personales y de misión, y registro continuo de las acciones de los agentes. Para las empresas que construyen productos de IA, la lección es que la seguridad no puede detenerse en la capa del modelo. Los permisos, integraciones y prácticas de despliegue que lo rodean importan igual, sobre todo cuando se usan herramientas de estilo consumo en entornos de alto riesgo.