NVIDIA Nemotron

NVIDIA Nemotronとは

NVIDIA Nemotron 3 Ultraは、550BパラメータのMixture-of-Experts（MoE）言語モデルであり、55Bのアクティブパラメータを備え、複雑で長時間実行されるAIエージェントワークフローを調整するために特別に設計されています。最先端の推論と高いスループット、ドメイン適応性を組み合わせ、エージェントがコンテキストを維持し、ツールを使用し、多くのターンにわたって効率的に実行できるようにします。ユーザーは、コーディングセッション全体でアーキテクチャ上の決定を維持したり、数百の研究ソースから矛盾する証拠を統合したりするような、重要な推論タスクを処理するためにこれをデプロイします。

アプリケーションシナリオ

エージェントオーケストレーション: エージェントワークフローにおける最も難しい判断（コーディングセッション全体でのアーキテクチャ上の決定の維持など）を処理します。
長期計画: EnterpriseOps-Gymベンチマークで示されるように、拡張された計画期間を持つ複雑なマルチステップタスクを管理します。
コーディングとターミナルタスク: 自動化された開発ワークフローのためのTerminal-Bench 2.0のようなターミナルベースのコーディングベンチマークをサポートします。
指示追従: 複雑な指示追従タスク（IFBench: 82%）で高い精度を維持します。
知識作業: 検索ベースの知識作業（ProfBench Search: 56%）を含む、専門的な作業タスクに優れています。
長いコンテキスト処理: 最大100万トークンのコンテキストウィンドウ（Ruler @1M: 95%）を処理し、広範なドキュメントや研究ソースの分析を可能にします。

主な機能

ハイブリッドMamba-Transformer層
状態空間モデルとトランスフォーマーアーキテクチャを組み合わせ、拡張されたエージェントインタラクション全体で効率的な長いコンテキスト処理を実現します。
NVFP4量子化
標準精度と比較して最大5倍のスループットで、複数のGPUアーキテクチャへのデプロイを可能にします。
LatentMoEエキスパートルーティング
各入力に対してどのエキスパートサブモデルが処理するかを最適化し、Mixture-of-Experts推論の効率を向上させます。
マルチトークン予測
複数のトークンを同時に予測することで、マルチターンタスクの生成速度を向上させます。
マルチティーチャー・オンポリシー蒸留
10以上のドメイン固有の教師モデルからの密なフィードバックでトレーニングすることにより、ドメイン特化を継続的に改善します。
オープンなレシピ、重み、ライセンス
完全にオープンなモデル重み、トレーニングレシピ、ライセンスを提供し、開発者による広範な採用とファインチューニングを可能にします。
透明な事前学習とRLデータパイプライン
事前学習と強化学習のための完全に文書化されたデータパイプラインを提供し、再現性とカスタマイズを可能にします。

対象ユーザー

最先端の推論、複雑な計画、ツール使用を必要とする長時間実行エージェントシステムを構築するAI開発者およびエンジニア。これには、自律型コーディングアシスタント、研究統合ツール、チップ設計検証、エンタープライズエージェントオーケストレーションに取り組むチームが含まれます。オープンなモデルとレシピは、特殊なワークフロー向けにモデルをファインチューニングまたはドメイン適応させる必要がある研究者や組織にも適しています。

NVIDIA Nemotronの使用方法

NVIDIAの開発者ポータル（developer.nvidia.com）からモデルにアクセスします。開発者は、オープンなモデル重み、トレーニングレシピ、データパイプラインのドキュメントをダウンロードできます。このモデルは、効率的な推論のためにNVFP4量子化を使用して、さまざまなGPUアーキテクチャへのデプロイ向けに設計されています。エージェントワークフローへの統合のために、開発者はこれを計画、推論、ツール呼び出しのためのオーケストレーション層として使用し、高ボリュームの実行タスクにはより効率的なモデルと組み合わせることができます。

効果レビュー

NVIDIA Nemotron 3 Ultraは、エージェント生産性（PinchBench: 91%）、長いコンテキスト処理（Ruler @1M: 95%）、指示追従（IFBench: 82%）にわたって強力なベンチマークパフォーマンスを提供し、いくつかの主要な指標でKimi K2.6（1Tパラメータ）のようなより大きなモデルを上回ります。そのハイブリッドアーキテクチャと量子化サポートにより、実際のデプロイに実用的であり、オープンライセンスと透明なトレーニングパイプラインはカスタマイズの障壁を低くします。ただし、このモデルは長期計画（EnterpriseOps-Gym: 33%）においてGLM 5.1（40%）と比較してパフォーマンスが劣り、マルチステップの戦略的推論に改善の余地があることを示唆しています。全体として、推論の深さと運用効率の両方を必要とする洗練されたエージェントシステムを構築する開発者にとって、能力が高く、本番環境に対応したモデルです。

よくある質問

NVIDIA Nemotronとは何ですか？

NVIDIA Nemotronは、長時間稼働するエージェント向けに設計された強力なAIモデルであり、拡張されたインタラクション全体にわたって効率的な推論、コンテキスト保持、ツール使用を提供します。

Nemotronは他のAIモデルと何が違うのですか？

Nemotronは長い会話にわたってコンテキストと推論を維持することに優れており、持続的な注意を必要とする複雑なマルチステップタスクに最適です。

Nemotronは外部ツールを使用できますか？

はい、Nemotronは外部ツールと統合するように設計されており、拡張されたインタラクション中にデータ取得やAPI呼び出しなどのアクションを実行できます。

Nemotronはリアルタイムアプリケーションに適していますか？

はい、Nemotronは効率的な推論と低レイテンシ応答のために最適化されており、リアルタイムエージェントアプリケーションに適しています。

Nemotronを実行するために必要なハードウェアは何ですか？

NemotronはNVIDIA GPU上で動作し、そのアーキテクチャを活用して高性能を実現しますが、具体的な要件はモデルサイズとデプロイメントによって異なります。

開発者はどのようにしてNemotronを使い始めることができますか？

開発者は、NVIDIA AI EnterpriseやNVIDIA GPUを提供するクラウドサービスなどのNVIDIAのAIプラットフォームを通じてNemotronにアクセスできます。