Microsoft、統制なきAIエージェントは『二重スパイ』になりうると警告

Microsoftは、企業環境内で統制なく動作するAIエージェントの潜在的な危険性について厳しい警告を発し、それらは事実上『二重スパイ』になりうると示唆しました。これに対応して、同社は組織のAIに不可欠なセキュリティとガバナンスをもたらす製品、Agent 365とMicrosoft 365 Enterprise 7の一般提供を発表します。『二重スパイ』という比喩は、適切なガードレールがなければ、企業のデータやシステムにアクセスできる自律型AIが、意図せず、あるいは悪意を持って、機密情報を外部に漏洩したり、有害な行動を取ったりするリスクを強調しています。