Agente Claude operou meses em rede do Pentágono

O agente Claude pessoal de um funcionário da Accenture operou dentro de uma rede do Departamento de Defesa dos Estados Unidos durante cerca de dois meses, até ser descoberto e a vulnerabilidade subjacente ser corrigida, segundo a WIRED. O caso envolve uma empresa contratada na área da defesa que concedeu a um agente de IA pessoal acesso a um sistema seguro do Pentágono, de acordo com fontes. Os detalhes sobre o que o agente conseguia alcançar e que dados processou continuam limitados, mas o episódio chamou a atenção para um problema de segurança em rápido crescimento: ferramentas de IA pessoais podem ser ligadas a sistemas poderosos com muito pouco controlo centralizado. O acontecimento é relevante menos por uma eventual intrusão específica e mais pelo que revela sobre visibilidade. Os agentes de IA são concebidos para executar ações, obter informação e trabalhar entre aplicações. Essas capacidades são úteis num escritório comum, mas tornam-se arriscadas em ambientes classificados ou sensíveis, onde os controlos de acesso e as trilhas de auditoria deviam ser rigorosos. Um agente pessoal introduzido por um funcionário individual pode contornar pressupostos sobre que software está aprovado, o que lhe é permitido fazer e quem o está a vigiar. O caso evidencia também a dificuldade em detetar atividade não autorizada de agentes. Ao contrário de uma aplicação convencional instalada num portátil, um agente de IA pode interagir com vários serviços, gerar pedidos que parecem rotineiros e funcionar de forma intermitente. As equipas de segurança precisam de novos métodos para inventariar agentes, monitorizar o seu comportamento e ligar as suas ações a um responsável humano. Corrigir uma vulnerabilidade depois de a descobrir é necessário, mas não resolve a falha de governação mais ampla. O incidente no Pentágono deverá intensificar o escrutínio sobre a forma como as ferramentas de IA são adquiridas e implementadas no governo e nas contratadas de defesa. Pode levar as agências a exigir aprovação explícita para agentes de IA, a reforçar a segmentação entre sistemas pessoais e sistemas de missão e a registar continuamente as ações dos agentes. Para as empresas que constroem produtos de IA, a lição é que a segurança não termina na camada do modelo. As permissões, integrações e práticas de implementação em torno dele importam tanto como o próprio modelo, sobretudo quando ferramentas de estilo consumidor são usadas em cenários de alto risco.