NVIDIAは2026年7月21日、次世代GPU「Rubin」の推論向けアーキテクチャを公開した。3360億個のトランジスタや最大50 PFLOPSのNVFP4演算性能に目を奪われるが、今回の詳説でむしろ注目すべきなのは、演算器がデータや同期を待つ時間を減らす仕組みだ。Mixture-of-Experts（MoE）の重み搬送からAttention、依存するカーネル、NVLink上のGPU間通信までを、ひとつながりの経路として見直している。長い文脈を扱うエージェント型AIでは、GPUの速さをトークン生成速度へ変換できる割合が導入コストを左右するためだ。
50 PFLOPSより先に、待ち時間を削る
Rubinは2つのコンピュートダイをNVIDIA High-Bandwidth Interface（NV-HBI）で1パッケージに統合し、224基のStreaming Multiprocessor（SM）と896基のTensor Coreを備える。第3世代Transformer Engineが扱うスパースNVFP4推論性能は最大50 PFLOPS。メモリーは最大288GBの12層HBM4で、帯域は22TB/sに達する。BlackwellおよびBlackwell Ultraの8TB/sに対して2.8倍である。
帯域と容量が増える理由は、推論の工程によって詰まる場所が変わるからだ。入力をまとめて処理するコンテキスト処理は演算量が大きい。一方、1トークンずつ生成するデコードでは、モデルの重みとKey-Value（KV）キャッシュを繰り返し読み出すため、メモリー帯域を使い切れるかどうかが速度を決めやすい。288GBという容量は、より大きなモデルやKVキャッシュをGPU上に残し、外部への退避を減らすために使われる。
NVIDIAは、社内の2兆パラメータMoEワークロードで、Vera RubinプラットフォームがBlackwell比で単位エネルギー当たり最大10倍のエージェント処理量を示したとしている。これはRubin単体のあらゆる処理が10倍になるという測定ではない。Vera CPUとRubin NVL72を組み合わせたプラットフォーム比較であり、モデル構成や並列化、応答速度の条件が変われば差も動く。
MoEと長文脈を詰まらせない演算器
MoEでは、入力トークンごとに選ばれた一部のExpertだけを動かす。Expert数が増え、重みを複数GPUへ分散すると、どの重みをどこから共有メモリーへ運ぶかという管理も膨らむ。BlackwellのTensor Memory Accelerator（TMA）はExpertごとにデスクリプターをメモリーへ持っていた。Rubinでは、同じ配置のTensorに共通のデスクリプターを1つ使い、メモリーポインターとストライドをTMA命令内で実行時に上書きできる。
このinline descriptor updateは、重みそのものの転送速度を上げる機能ではない。Expertが増えるほど積み上がるメタデータ管理とアドレス計算を減らし、Tensor Coreへ仕事を渡す前の負担を軽くする仕組みだ。MoEが少数のExpertを選ぶことで計算量を抑えても、重みの所在確認に時間を使えば利点が薄れる。Rubinはその隙間を命令レベルで埋める。
行列積では、Tensor Coreが1クロックに処理できるK次元の量を2倍にした。Kは掛け合わせる2つの行列に共通する内側の次元で、NVIDIAが示したGEMMの例では、Blackwellで4回必要だったK方向のループがRubinでは2回で済む。出力を多くのGPUへ分けてもK次元が大きく残るTensor Parallel処理では、ループ制御の負担を減らし、コンテキスト処理とデコードの両方でTensor Coreを働かせやすくなる。
長文脈のAttentionには、二段の対策を入れた。Rubinは中間のAttention scoreを構造化2:4スパース形式へ圧縮し、非ゼロ値とメタデータを後段へ渡す。Softmaxと続く行列積が扱うデータを減らしながら、後続を含むモデルの処理系には従来どおり密な出力を渡せる。さらにSoftmaxが使う指数演算をBlackwell比でFP32は2倍、BF16/FP16は4倍に引き上げた。BF16/FP16はBlackwell Ultraとの比較でも2倍になる。
カーネルの空白はNVLinkまで続く
推論では、前のカーネルがActivationを作り、次のカーネルがそれを受け取って計算を続ける。Blackwellのprogrammatic dependent launchは後続処理を早められたが、必要なデータがそろうまで待つ区間が残った。Rubinは依存関係をタイルまたはスレッドブロック単位で解決し、前段が書き終えた部分から後段を起動する。全ブロックの完了を待つ方式よりGPUのタイムラインを詰め、カーネル間の空白を縮める設計である。
同じ問題は、72基のRubin GPUを結ぶVera Rubin NVL72のラック内でも起きる。モデルの重みやKVキャッシュ、同期メッセージがNVLink 6を行き来するため、データを送った後の完了確認も推論のクリティカルパスに入る。NVLink 6の帯域はGPU当たり3,600GB/s、CPUとGPUを結ぶNVLink-C2Cは1,800GB/sに増えたが、帯域が広いほど同期の手順が自動的に消えるわけではない。
Rubinが導入するcounted writesは、GPUカーネルから直接始めるNVLink通信の同期を簡略化する。Blackwellではデータ書き込みの後にメモリーバリア、受信確認、atomic flagが必要だった。Rubinでは一連の同期手順を、受信GPU上の単一のカウンター更新へ置き換え、調整用トラフィックと待ち時間を減らす。送信経路のピーク値より、72基が細かな通信を繰り返す場面で演算を止めにくくする変更だ。
最大10倍を実機で測る条件
Rubin GPUの改善は、ラック側の電力設計までつながる。Vera Rubin NVL72は72基のRubin GPUと36基のVera CPUで構成し、液冷、電力制御、NVLinkスイッチを一体で扱う。NVIDIAによると、Intelligent Power Smoothingは従来方式に比べて平均消費電力を約10%、50ミリ秒のピーク電力を約20%減らす。データセンター全体を制御するDSX MaxLPSでは、同じ電力枠に最大40%多いGPUを収容でき、ワークロード性能への影響は最小限だという。
ここでも倍率の範囲は分けて見る必要がある。Softmaxの4倍はBF16/FP16指数演算のスループット、HBM4の2.8倍はピーク帯域、最大10倍は社内の2兆パラメータMoEを使ったプラットフォーム測定だ。各数字を掛け合わせてアプリケーション性能を見積もることはできない。実効差は、まずExpert数や文脈長、バッチによって動く。Tensor Parallelの分け方とGPU間通信の頻度も結果を左右する。
NVIDIAはRubinを量産中とし、パートナー製品を2026年後半に提供する予定である。公開後に確かめるべき数字は50 PFLOPSそのものより、同じ応答時間と消費電力の枠内で1ユーザー当たりのトークン速度をどこまで保てるかだ。多様な実モデルを使う独立測定で待ち時間の削減が確認できれば、Rubinの設計変更は推論設備のトークン原価へ直接表れる。
