Microsoft: agentes de IA são ameaça interna

A Microsoft está a aconselhar as empresas a encarar os agentes de IA como um novo tipo de ameaça interna. O aviso parte de uma ideia simples e desconfortável: mesmo modelos avançados não podem ser totalmente confiados para ficar dentro dos limites previstos. Assim que um agente tem credenciais, acesso a sistemas de negócio e capacidade de executar ações, deve ser tratado menos como um complemento útil e mais como um utilizador privilegiado cujo comportamento precisa de ser vigiado. Isto representa uma mudança face à forma como muitas organizações adotaram inicialmente ferramentas agênticas. As primeiras implantações focavam-se sobretudo na produtividade: redigir mensagens, resumir documentos, agendar reuniões ou recuperar informação. Mas os agentes estão cada vez mais ligados a e-mail, calendários, bases de dados, repositórios de código e aplicações de terceiros. Alguns desses sistemas não são controlados pelos laboratórios de IA que criaram o modelo subjacente, o que significa que o laboratório não consegue garantir como o agente vai interagir com eles nem que dados pode expor. A Microsoft recomenda aos clientes que acompanhem os agentes de perto, especialmente quando estes se ligam a serviços externos ou não gerenciados. As boas práticas incluem acesso com privilégio mínimo, controles de identidade claros, registos detalhados e aprovação humana para ações sensíveis. As empresas podem também precisar de segmentar o acesso dos agentes, limitar as ferramentas que um agente pode chamar e testar a forma como responde a instruções incomuns ou a erros. A mensagem mais ampla é que a segurança dos agentes não pode ser adicionada à pressa depois da implantação. Se um agente consegue ler ficheiros sensíveis, enviar mensagens ou alterar registos, pode causar danos através de erros, manipulação ou instruções comprometidas. A posição da Microsoft pode influenciar a forma como as empresas escrevem políticas de segurança e como os fornecedores desenham os controles dos agentes. Tratar agentes como ameaças internas não é um voto de confiança na tecnologia. É o reconhecimento de que a autonomia cria risco que tem de ser gerido de forma deliberada.