NVIDIAは2026年8月11日、オープンウェイトの大規模言語モデル（LLM）「Nemotron 3.5 Lightning」を公開した。総パラメータ数は30B（300億）だが、各トークンの処理で動かすパラメータを3B（30億）に絞った。狙いは、最も難しい推論で首位を取ることではない。長時間動くAIエージェントの中で、ツール呼び出しや結果確認といった大量の反復処理を素早く終える実行役である。
この役割分担を支えるため、NVIDIAはモデルルーター「NeMo Switchyard」も公開した。複雑な計画は大型モデルへ送り、定型度の高い実行はLightningへ降ろす。モデルの優劣を一つの総合点で決めるのではなく、仕事ごとに必要な能力と処理時間を選ぶ構成だ。
30B中3Bだけが動く、同じサイズで計算量を絞る
Nemotron 3.5 Lightningは、Mamba-2、Mixture-of-Experts（MoE）、Attentionを組み合わせたハイブリッドモデルだ。設定ファイルには128のルーティング対象エキスパートと1つの共有エキスパートがあり、各トークンでは6つを選ぶ。モデル全体に知識容量を持たせながら、毎回すべての重みを計算しないため、密な30Bモデルより処理を軽くできる。
同系統の前世代Nemotron 3 Nanoも総30B、稼働3.5BのハイブリッドMoEだった。今回の変化はサイズの縮小より、実行用途へ向けた学習と推論経路の整備にある。NVIDIAの統一評価では、前世代からSWE-bench Verifiedが34.08から51.56、Terminal-Bench 2.1が8.29から24.58、PinchBenchが66.11から85.37へ上がった。
配布形態も役割で分かれる。BF16版は教師あり微調整（SFT）、強化学習、蒸留などのカスタマイズに使う参照ウェイトで、NVFP4版は推論配備向けだ。NVFP4版はDGX SparkまたはH100 1基で動かす手順が用意されている。NVIDIAの対応表では、BlackwellとHopperでNVFP4を、AmpereでW4A16をサポートする。ライセンスはOpenMDW-1.1で、商用利用も認められている。
最大コンテキスト長は100万トークンだ。ただし、これはどの構成でも同じ余裕を持てるという意味ではない。BF16版のH100 1基向け例は256Kに抑え、100万トークンの例はH100 8基やGB200向けに示されている。実運用では同時実行数とキャッシュ容量の配分が先に効く。
性能より先に、仕事を終える時間
Lightningは、能力評価では同規模のQwen3.6 35B A3Bを一貫して上回るモデルではない。NVIDIAが同じ評価系で測った結果でも、知識、難しい推論、コーディングエージェントの多くでQwenが先行する。一方、命令追従のIFBenchではLightningが上回った。
| 評価 | Nemotron 3.5 Lightning | Qwen3.6 35B A3B |
|---|---|---|
| MMLU Pro | 81.94 | 85.63 |
| GPQA Diamond（ツールなし） | 75.44 | 83.40 |
| SWE-bench Verified | 51.56 | 70.12 |
| Terminal-Bench 2.1 | 24.58 | 44.38 |
| PinchBench | 85.37 | 88.07 |
| IFBench（loose） | 71.88 | 63.71 |
この差から、Lightningを複雑な計画まで任せる単独の司令塔とみなすのは難しい。独立評価のArtificial Analysis Intelligence Indexでも表示値は24で、Qwen3.6 35B A3Bの32に届かない。Qwenとの差が許容範囲に収まる仕事へ割り当て、完了までの時間を縮めるモデルである。
速度についてNVIDIAは、同規模モデルの最大4倍の出力速度を掲げる。PinchBenchでは約86%の精度を保ち、1万件のタスクを同程度の精度のQwen3.6 35Bより30%短い時間で完了したという。ただし、最大4倍はNVIDIAの発表値であり、Artificial Analysisの現行モデルページは出力速度を未掲載としている。導入時には、自社のプロンプト長と同時実行数で完了時間を測り直す必要がある。
大型モデルが計画し、Lightningが実行する
長時間エージェントは、難問を一度解いて終わるわけではない。ツールを呼び、返り値を検査し、サブエージェントへ作業を渡し、形式を整える処理を何度も繰り返す。すべてを高価な大型モデルへ送れば、一回ごとの小さな遅延と計算量がワークフロー全体に積み上がる。
NeMo Switchyardは、要求ごとに使うモデルを選ぶためのオープンソースライブラリだ。NVIDIAが想定する構成では、計画や複雑な推論をfrontier modelへ上げ、実行をLightningへ下げる。Lightningの価値は総合首位ではなく、大型モデルを呼ぶ回数を減らしながらエージェント全体の完了時間を縮められるかで決まる。
モデル内部にも高速化の仕組みがある。Multi-Token Prediction（MTP）は一つ先ではなく複数の将来トークンを予測するよう学習する。さらにDSparkとDFlashというドラフトモデルを配布し、候補トークンをまとめて作って本体が検証する投機的デコードに使う。DSparkはDGX Sparkと低い同時実行数のデータセンター用途、MTPは中〜高い同時実行数が主な対象だ。
NVFP4量子化も速度と配置可能なハードウェアを広げる。公開評価ではBF16版に対し、NVFP4版のPinchBenchは85.37から83.43、Terminal-Bench 2.1は24.58から23.46へ下がった。一方、SWE-bench Verifiedは51.56から52.80、GPQA Diamondは75.44から75.57であり、量子化後の変化は評価ごとに異なる。精度低下を一つの平均値で済ませず、使うタスクで確認すべき理由がここにある。
100米ドル未満の調整はどこまで通用するか
CodeRabbitは、コードレビューの振り分けという狭く大量に発生する仕事でLightningを試した。公開リポジトリ由来のデータから学習用9,996件を作り、リポジトリ単位で分離した1,000件を固定評価に使った。参照設定と完全に一致した割合は、従来のGPTクラスモデルの75.8%からSFT後に80.4%へ上がり、SFTとRLVR（検証可能な報酬による強化学習）の組み合わせでは80.7%になった。
実験は3時間未満、費用は100米ドル未満だった。A100 80GiB 1基で8件を同時処理したとき、合計出力は毎秒314.82トークンに達した。同じ1,000件を処理する推定費用は2.34米ドルから1.16米ドルへ50.4%減った。コードレビューの振り分けでは、100米ドル未満の調整で従来モデルの一致率を上回り、推論費用をほぼ半減できた。
それでも適用範囲は限られる。RLVRを加えた一致率の0.3ポイント増は統計的に決定的ではなく、CodeRabbitも継続負荷と本番トラフィックを未検証としている。まず反復作業を切り出し、大型モデルに近い精度を出せるか固定評価で確かめる。その後に同時実行時の完了時間、空応答、失敗時の再試行まで測る。この順序を踏める現場で、Lightningは大型モデルの代替ではなく、エージェントを長く安く動かす実行エンジンになり得そうだ。
