NVIDIAは2026年11月16日、次世代AI基盤「Vera Rubin NVL72」が初めて参加したMLPerfのベンチマーク結果を発表した。DeepSeek-V3 671Bの学習では、同じ1,024基のGPUを使用したGB300構成の8.03分に対し、Vera Rubinは4.14分を記録した。推論では電力当たりの処理量が10倍超に達したとする比較結果も示したが、Vera Rubin側の数値はMLCommonsによる検証を待つ暫定値だ。

この2つの結果は、AI基盤の性能を異なる観点から評価したものだ。MLPerf Trainingは、モデルが指定された品質に到達するまでの学習時間を測定する。一方、今回のMLPerf Endpointsの比較では、ユーザー当たりの生成速度に下限を設け、その条件を満たすシステム全体の処理量と稼働電力を評価している。学習時間の短縮と推論時の電力効率は別の指標であり、利用可能なGPU数やサービスの応答要件も含めて結果を読み解く必要がある。

AD

同じ1,024GPUで学習時間が約半分に、最短記録はGB300の1.38分

MLCommonsが公開したMLPerf Training v6.1の結果には、NVIDIAが提出したVera RubinとGB300の測定値が掲載されている。DeepSeek-V3 671Bの学習では、1,024基のGPUを使用したVera Rubinが4.14分、GB300が8.03分を記録し、同じGPU数で比較すると学習時間が約半分になった。一方、最短記録の1.38分は、10,240基のGB300を使用した大規模構成によるものだ。NVIDIAの技術ブログとMLCommonsの補足資料には、GPU数による性能の違いも示されている。

モデル GPU世代 GPU数 学習時間 比較の目的 資料の状態
DeepSeek-V3 671B Vera Rubin 256 16.12分 同一世代での規模拡張 MLCommons補足資料のNVIDIAによる説明
DeepSeek-V3 671B Vera Rubin 1,024 4.14分 同じGPU数での世代比較 NVIDIA提出結果
DeepSeek-V3 671B GB300 1,024 8.03分 同じGPU数での世代比較 NVIDIA提出結果
DeepSeek-V3 671B GB300 10,240 1.38分 大規模構成での最短時間 NVIDIA技術ブログの説明

※いずれもMLPerf Training v6.1における、DeepSeek-V3 671Bが指定された品質に到達するまでの時間。

最短の1.38分を記録したGB300システムは160ラックにまたがり、1,024GPU構成の10倍のGPUを使用している。同じGPU数で世代間の性能を比較する場合と、設備規模を拡大して学習時間を短縮する場合では、評価の前提が異なる。また、1,024GPUの両構成はFP8とNeMo Framework Release 26.09を使用しているが、Vera Rubinはオンプレミス、GB300はクラウドで利用可能な構成として登録されている。

モデルの学習後に行う事後学習でも性能差が確認された。新たに追加された強化学習の課題「Qwen3.5 397B GRPO」では、1,024GPUのVera Rubinが10.44分、GB300が13.78分を記録している。ただし、Vera RubinはNeMo RLのTensorRT-LLM、GB300は同じNeMo RLのvLLMを使用しており、GPU単体ではなくソフトウェアを含むプラットフォーム全体の比較となる。

強化学習による事後学習では、回答の生成、評価、モデルの重みの更新を繰り返す。NVIDIAの技術ブログによると、同じVera Rubinでも、バックエンドにvLLMを使用した場合は10.94分、TensorRT-LLMでは10.44分だった。ソフトウェアの選択によって学習時間が変わるため、GPUの世代だけで実際の処理性能を判断することはできない。

GPUを増やしたときの拡張効率は約97%、通信性能が重要に

GPUの台数を増やせば計算を分担できる一方、GPU間でデータをやり取りするための通信時間も増える。MLCommonsの補足資料でNVIDIAは、Vera Rubinを256GPUから1,024GPUへ4倍に増やしたところ、DeepSeek-V3の学習時間が16.12分から4.14分に短縮されたと説明している。処理速度は約3.9倍となり、GPU数の増加率に対する性能向上の割合を示す拡張効率は約97%だった。なお、この数値はMLCommonsの補足資料に掲載されたNVIDIA自身の説明に基づく。

NVIDIAは、この結果を支える技術としてラック内とラック間の高速通信を挙げている。Vera Rubin NVL72は、1ラックに72基のGPUと36基のCPUを搭載し、GPU間を銅配線によるNVLink 6で接続する。公表されている通信帯域幅はGPU当たり毎秒3.6TB、ラック全体で毎秒260TBだ。複数ラックの接続にはConnectX-9 SuperNICを使用し、Quantum-X800 InfiniBandまたはSpectrum-X Ethernetを利用する。

DeepSeek-V3のような専門家混合(MoE)モデルでは、入力に応じて複数の専門家ネットワークに処理を振り分ける。そのため、GPUが担当する領域をまたいでデータを交換する必要があり、GPU単体の演算性能だけでなく、通信の速度や効率も学習時間を左右する。NVIDIAは、通信経路を状況に応じて選択する仕組みや、ネットワークの混雑を抑える制御が、こうした処理を支えていると説明している。

学習では、大規模な計算をどれだけ短時間で完了できるかが、モデル開発に要する時間を左右する。一方、推論サービスでは、利用者が求める応答速度を維持しながら、限られた電力でどれだけ多くのリクエストを処理できるかが重要になる。NVIDIAが示した電力当たり10倍超という結果は、後者の性能を評価したものだ。

AD

推論の電力効率は10倍超、ただし比較条件と検証状況に違い

NVIDIAの発表では、11月9日に公表されたKimi K3のMLPerf Endpoints v1.0について、Vera Rubinの電力当たり処理量がGB300の10倍を超えたと説明している。この比較では、Vera Rubinが32GPU、GB300が48GPUという異なる構成を使用し、どちらもユーザー当たり毎秒50トークン以上という応答速度の条件を満たしている。

項目 Vera Rubin GB300
GPU数 32 48
同時問い合わせ数 1,024 48
全体処理量(トークン/秒) 41,414.2 2,210.4
稼働電力 100.89kW 60kW
ユーザー当たり平均生成速度(トークン/秒) 50.4 56.2
最初のトークンまでの待ち時間(P90) 4,673.9ms 2,305.1ms
検証状態 暫定、MLCommons検証待ち MLCommons検証済み

※NVIDIAの発表に記載された、MLPerf Endpoints v1.0の標準化部門(Standardized division)、提供可能区分(Available category)の測定結果。共通条件はユーザー当たり毎秒50トークン以上の生成速度。

電力当たりの処理量は、システム全体の毎秒トークン処理量を稼働電力(kW)で割って算出する。Vera RubinはGB300より多くの電力を消費しているが、同時に処理する問い合わせ数を大幅に増やすことで、システム全体の生成量を高めている。利用者ごとの生成速度に一定の下限を設けたうえで、消費電力に対してどれだけ多くの処理を実行できるかを比較した結果だ。

一方、利用者が最初の応答を受け取るまでの待ち時間には違いがある。最初のトークンまでの待ち時間(TTFT)のP90は、問い合わせの90%がその時間以内に最初のトークンを受け取ったことを示す。今回の測定では、Vera Rubinが4,673.9ms、GB300が2,305.1msとなっており、Vera Rubinの方が長い。電力当たりの処理量が優れていても、それだけで応答開始までの待ち時間や導入費用、同じ処理に必要な総電力量まで評価できるわけではない。

また、比較されているVera Rubinの値はMLCommonsによる検証が完了していない暫定結果であり、GB300の検証済み結果とは公開段階が異なる。10倍超という倍率は、この条件下での電力当たり処理量の比較として扱う必要がある。

導入判断にはソフトウェアと実際の運用条件も重要

同じハードウェアでも、ソフトウェアの更新によって性能は変化する。NVIDIAは正式な提出結果が確定した後、同じハードウェア構成に新しいソフトウェアを適用した再測定結果も公表した。例えば、72GPUのVera RubinでLlama 3.1 8Bを学習する場合、正式提出結果の7.162分に対し、再測定では6.140分だった。ただし、この再測定値はMLCommonsの検証・レビューを受ける前のものであり、正式結果とは区別される。

AI基盤の導入を検討する際は、まず実際に確保できるGPU数で、対象モデルの学習時間を比較することが重要になる。GPUの増設を計画している場合は、通信を含むシステム構成と、台数を増やした際の拡張効率も判断材料となる。推論サービスでは、想定される同時問い合わせ数や応答速度の条件を満たしながら、利用可能な電力でどれだけの処理量を確保できるかが重要だ。

今回の結果は、Vera Rubinが特定の学習課題でGB300より短い学習時間を記録し、推論でも高い電力効率を示す暫定値を得たことを明らかにした。今後はMLPerf Endpointsの検証結果に加え、実際のGPU規模、モデル、ソフトウェア、通信構成、応答条件をそろえた測定が、導入時の性能と費用を判断する材料となる。