Samsung Electronicsが第10世代V-NAND「V10」を量産し、NVIDIAへ供給し始めたとソウル経済新聞が7月20日に報じた。ニュースの中心は、NVIDIAが長い文脈を扱うAI推論向けに用意するContext Memory Storage（CMX）である。CMXは、GPU内のHBMに収まりきらないKVキャッシュをネットワーク接続フラッシュへ逃がし、必要な時点で戻して再利用する。AI用NANDで問われ始めたのは、SSDの容量を増やせるかではなく、推論基盤の一部として高密度品をどこまで継続供給できるかである。
NVIDIAはCMXを長コンテキストとエージェント型AI推論に向けた共有コンテキスト層として打ち出す。SamsungのV10供給が報道通りに進むなら、同社のNANDはPCや汎用サーバーのストレージから、GPUの稼働率と推論コストを左右する階層へ用途を広げることになる。
GPUの外にKVキャッシュを置くCMX
NVIDIAが公式に説明するCMXは、長コンテキスト、マルチターン、エージェント型AI推論向けのポッド共有コンテキスト層である。ここで扱うKVキャッシュは、言語モデルがすでに読んだトークンを再計算せずに済むよう保持する中間状態だ。会話履歴が長くなり、複数のエージェントが同じ文脈を参照するほど、その量は増える。
従来はGPUのHBMやサーバーのDRAMに置かれるKVキャッシュも、容量が尽きれば消去するか、再利用のたびに計算し直す必要がある。NVIDIAの技術ブログによれば、CMXはその間にEthernet接続のフラッシュ層を置き、KVブロックをデコード前にGPUまたはホストメモリへ事前配置する。推論フレームワークのDynamoとDOCA Memosが、どのノードのキャッシュを使うかを管理する設計だ。
BlueField-4はNVMe SSDの管理、KVキャッシュの整合性保護、暗号化のオフロードを担う。NVIDIAは長コンテキスト・エージェント型ワークロードで、従来のストレージと比べて持続トークン処理性能と電力効率を最大5倍にすることを目標にしている。これは全ての推論に同じ効果が出るという数値ではないが、KVキャッシュを再計算する時間とGPUの待ち時間を減らす狙いは明確である。
V10の密度が効く場所
ソウル経済新聞は、V10を400層級とし、286層のV9より記憶密度が50%以上高いと報じた。層数の増加は、同じSSDのフォームファクター、ラックの設置面積、電力とネットワークの枠の中で、保持できるKVキャッシュを増やす方向に働く。長い文脈を同時に扱う推論では、その増分がGPUへ戻す候補を多く残すことにつながる。
Samsungは2024年4月、第9世代V-NANDの1Tb TLC品の量産開始を公式発表している。今回の報道は、そのV9が主力になった後に、より高密度なV10の量産とNVIDIA向け供給まで進んだという内容だ。NVIDIAとSamsungはV10の供給契約やCMX向けの採用量を発表していないため、ここは報道の範囲を超えない。
ただし、層数や容量がCMXの性能を単独で決めるわけではない。NVIDIAのCMXは、SSDに加えてBlueField-4、Spectrum-X Ethernet、KVキャッシュの配置ソフトウェアを一体で動かす。高密度NANDは保持量を増やす部品であり、低遅延で読み出してGPUへ戻せるかは、ネットワークと制御系を含む設計で決まる。
V9中心の生産体制でV10を立ち上げる
同紙によると、SamsungのV-NAND生産能力は月10万枚を超え、その約60%をV9に配分している。V10の比率は全V-NAND生産量の5%未満であり、V9の歩留まりは80%以上まで上がったという。NVIDIA向けの供給を広げるとしても、量産初期のV10だけで需要を受け止める体制にはまだ見えない。
V9の歩留まりが80%以上まで上がった一方、V10の比率は全V-NAND生産量の5%未満にとどまるという。主力のV9を安定生産しながらV10を立ち上げる段階であり、高密度品の供給量が需要に追いつくかは、V10の比率と歩留まりがどこまで上がるかにかかる。V10は同じ容量をより少ないダイで構成する余地を広げるが、実際のSSD容量、コントローラー、製品構成は顧客側の設計にも左右される。
CMX向けとしてどのNAND世代をどれだけ使うのか、NVIDIAは公式には開示していない。したがって現段階で確認できる変化は、SamsungがNVIDIA向けにV10を供給し始めたとする報道と、NVIDIAがKVキャッシュ専用のフラッシュ層を製品構成へ加えたことの二つである。供給量を先回りして断定するより、V10の生産比率が次の四半期以降にどこまで伸びるかを見る必要がある。
3,500万TBから1億TB超へ向かう需要
ソウル経済新聞は、CMXに必要なNAND需要が2026年の3,500万TBから2027年には1億TBを超えるという業界見通しを伝えた。数値はSamsungの出荷計画ではなく、CMXの採用が広がる場合の需要見通しである。それでも、AIサーバーが求めるフラッシュの単位が、単体SSDの容量競争からポッド全体のコンテキスト保持量へ移りつつあることは読み取れる。
この用途では、容量を増やしたフラッシュがそのまま価値になるわけではない。CMXは、使い終えた推論データを長期保存する装置ではなく、次のリクエストで再利用するKVキャッシュを素早く戻すための層だ。NVIDIAが公表する最大5倍という性能主張も、キャッシュの再利用、事前配置、ネットワーク接続がそろった構成を前提にしている。
SamsungがV10をどの程度CMXへ回すかは、まだ公式には示されていない。NVIDIAがCMXの実配備先とSSD構成を明らかにし、SamsungがV10の生産比率を高められるかが、AI向けNAND需要が一時的な品薄ではなく、推論インフラの新しい調達基準になるかを分ける。
