微軟：AI 代理人要當「內鬼」來防

微軟呼籲企業，把 AI 代理（AI agent）當成一種新的「內部威脅」來看待。這個說法的重點其實很直白、也有點不舒服：再先進的模型，都不能假設它一定會乖乖待在設定的範圍內。一旦某個代理持有憑證、能存取企業系統，還能真的執行動作，那它就不只是好用的附加工具，而更像一個必須被監控的特權使用者。 這跟很多組織一開始導入代理工具的心態不同。早期部署多半圍繞生產力：幫忙起草訊息、整理文件摘要、安排會議、查資料。但現在代理愈來愈常接到電子郵件、行事曆、資料庫、程式碼倉庫和第三方應用上。其中有些系統並不是打造底層模型的 AI 實驗室所能控制的——像 OpenAI 或 Anthropic 這類實驗室，因此也無法保證代理在那些系統裡會怎麼互動、會碰到或暴露哪些資料。 微軟建議客戶要緊盯代理的動向，尤其是連到外部或不受管理服務的時候。實務上的做法包括：最小權限原則、清楚的身分控管、詳盡的日誌紀錄，以及敏感動作要有人工核准。企業可能還需要切分代理的存取範圍、限制它能呼叫哪些工具，並且測試它遇到異常指令或錯誤時會有什麼反應。 整體訊息是：代理的安全不能等部署完再補。只要一個代理能讀敏感檔案、發送訊息或修改紀錄，它就可能因為出錯、被操弄或指令被汙染而釀成損害。微軟的立場可能會影響企業撰寫安全政策的方式，也會影響廠商怎麼設計代理的控制機制。把代理當成「內鬼」來防，並不是對這項技術沒信心，而是承認自主性本身就帶來風險，必須刻意管理。