AI Safety2026-04-25VentureBeat

企業の85%がAIエージェントを導入するも、信頼しているのはわずか5%

RSA Conference 2026において、シスコの幹部から驚くべき統計が明らかになった。企業の85%が現在AIエージェントのパイロットプログラムを実施している一方、それらのエージェントを完全な本番環境に移行したのはわずか5%である。実験と導入の間のこの大きなギャップは、ただ一つの重大な障壁、すなわち「信頼」を明らかにしている。 シスコの社長ジートゥ・パテル氏は基調講演で、信頼を「導入における主要な障壁」と特定した。企業は、タスクを処理し、意思決定を行い、他のシステムとやり取りできる自律型AIエージェントの可能性を探ることに熱心である一方、人間の監視なしにそれらを稼働させることには深いためらいを抱いている。その懸念は根拠のないものではない。AIエージェントは幻覚を起こしたり、指示を誤解したり、特に複雑なエンタープライズ環境において意図しない結果を招く行動を取ったりする可能性がある。 5%という本番稼働率は、現在の検証、セキュリティ、ガバナンスの枠組みが不十分であることを示唆している。企業が必要としているのは、機能するモデルだけではない。信頼性、説明可能性、安全性の保証が必要なのである。顧客データや金融取引を扱うAIエージェントが暴走しないという確証が必要なのだ。 パテル氏は、業界は純粋な能力から信頼性へと焦点を移すべきだと主張した。これは、強固なテストプロトコル、継続的な監視、エージェントの意思決定の透過的なログ記録への投資を意味する。また、エージェントがその権限を越えるのを防ぐ「ガードレール」を構築することも意味する。 現時点では、大多数の企業はパイロット段階に留まり、慎重に傍観している。信頼の方程式を最初に解いた企業が、次の波の生産性向上の鍵を握る。残りの企業は、リスクが報酬に見合うのか疑問を抱きながら、永遠の実験状態に留まることになるだろう。

関連ニュース

もっとAIニュース

AIStart.ai · あなた専用の AI ランチパッド