NVIDIA「Vera Rubin NVL72」、MLPerf推論v6.1で首位デビュー

NVIDIAは、AI推論の処理速度と効率を測るベンチマーク「MLPerf Inference v6.1」の初回結果で、ラック規模のシステム「Vera Rubin NVL72」がトップクラスの性能を示したと発表しました。同社はこれを単なる速度記録ではなく、AIファクトリー（AI工場）にとって推論性能が経済指標になりつつある証拠だと位置づけています。スループットが上がれば単位時間あたりに生成できるトークン数が増え、モデルへのアクセス提供や大規模AIサービスを手がける事業者の収益増に直結するという考え方です。 NVIDIAは、個々のチップのスペックと同じくらいシステム全体の性能が重要だと強調します。Vera Rubin NVL72はラック規模のプラットフォームで、ベンチマーク結果はGPU、ネットワーク、メモリ、ソフトウェアにまたがる改良がかみ合った成果だとしています。インフラの効率的なスケーリングも柱のひとつで、ハードウェアを増やせばボトルネックで頭打ちになるのではなく、スループットが比例して伸びるべきだという主張です。3つ目は継続的なソフトウェア最適化で、ハードウェアを入れ替えなくても既存の導入環境が時間とともに改善することを意味します。 MLPerfの初回結果は、こうした主張を競合システムと比較する標準的な手段を顧客に提供します。同時に、AIインフラの競争が学習速度から推論の経済性へ移りつつあることを示すシグナルでもあります。企業やクラウド事業者にとっては、推論プラットフォーム選びで性能、スケーリング効率、ソフトウェアの成熟度、トークンあたりの総コストを見極める必要があるということです。AIワークロードが実験段階から大量生産へ移るにつれ、この議論はさらに活発になりそうです。