Microsoft: los agentes de IA son amenazas internas

Microsoft quiere que las empresas dejen de ver a los agentes de IA como un simple complemento y empiecen a tratarlos como una nueva clase de amenaza interna. La advertencia parte de una idea sencilla pero incómoda: ni siquiera los modelos más avanzados merecen confianza absoluta a la hora de mantenerse dentro de los límites previstos. Cuando un agente tiene credenciales, acceso a sistemas de negocio y capacidad de ejecutar acciones, se parece más a un usuario con privilegios cuyo comportamiento hay que vigilar que a una herramienta inofensiva. Es un cambio respecto de cómo muchas organizaciones adoptaron estas herramientas al principio. Los primeros despliegues se centraban en la productividad: redactar mensajes, resumir documentos, agendar reuniones o buscar información. Pero cada vez más los agentes se conectan al correo, los calendarios, las bases de datos, los repositorios de código y aplicaciones de terceros. Algunos de esos sistemas no están bajo el control de los laboratorios que construyeron el modelo, así que el laboratorio no puede garantizar cómo interactuará el agente con ellos ni qué datos podría exponer. Por eso Microsoft recomienda a sus clientes vigilar de cerca a los agentes, especialmente cuando se enlazan con servicios externos o no gestionados. Las buenas prácticas incluirían acceso con el mínimo privilegio necesario, controles de identidad claros, registros detallados y aprobación humana para las acciones sensibles. Las empresas también pueden necesitar segmentar el acceso de los agentes, limitar a qué herramientas pueden llamar y probar cómo responden ante instrucciones inusuales o errores. El mensaje de fondo es que la seguridad de los agentes no se puede añadir después del despliegue. Si un agente puede leer archivos sensibles, enviar mensajes o modificar registros, puede causar daños por errores, manipulación o instrucciones comprometidas. La postura de Microsoft podría influir en cómo las empresas redactan sus políticas de seguridad y en cómo los proveedores diseñan los controles de sus agentes. Tratar a los agentes como insiders no es una muestra de confianza en la tecnología: es reconocer que la autonomía genera riesgos que hay que gestionar de forma deliberada.