NVIDIA「Vera CPU」、エージェント時代はCPUが律速になる

NVIDIAは、GPUの生の性能だけでは語れない「Vera CPU」の意義を説明しています。同社によれば、AIエージェントはモデルの中で文章を生成したり推論したりするだけの存在ではありません。情報を検索し、データベースに問い合わせ、コードを書いてテストし、さらに実際のアクションを実行します。その過程では、GPUによる推論とCPUによる実行の間を何度も行き来することになります。つまりプロセッサは、エージェント型ワークフローの脇役ではなく、あらゆるステップに関わる部品になるというわけです。 企業がエージェントの導入を増やすほど、AIファクトリーには汎用的なワークロード向けではなく、オーケストレーションと高スループットの調整に最適化されたCPUが必要になる——これがNVIDIAの主張です。背景にあるのは、GPU、CPU、ネットワーク、ソフトウェアをひとつのプラットフォームとして売り込む「システム丸ごと」戦略です。 メッセージの核心は、エージェント型AIが新たなボトルネックを生むという点にあります。GPUが素早く推論できても、CPUがタスクを管理し、データを動かし、ツールを効率よく連携できなければ、エージェントは止まってしまいます。そこでNVIDIAはVeraを、AIワークロードのリズムに合わせて調整したCPUとして位置づけています。小さな判断や切り替えが大量に発生する世界では、一度の大きなモデル呼び出しと同じくらい、こうした細かな処理が重要になるからです。 購入する側にとっては、AIインフラ計画の大きな転換を裏付ける話でもあります。性能はもはやアクセラレーターのピークスループットだけでは測れません。メモリー、スケジューリング、ツール利用、そしてモデル推論と従来型コンピューティングの絶え間ない往復を、システム全体としてどれだけうまく扱えるかにもかかってきます。この主張が顧客に受け入れられるかは、実環境でのスループット、コスト、ソフトウェアサポート次第ですが、NVIDIAがエージェント時代をフルスタックのハードウェア課題として定義しようとしているのは明らかです。