米国Micron Technologyは2026年3月3日、人工知能(AI)サーバー向けに設計された業界最大容量となる256GBのLPDRAMメモリモジュール「SOCAMM2(Small Outline Compression Attached Memory Module 2)」の顧客向けサンプル出荷を開始した。業界初となるモノリシックな32ギガビット(Gb)LPDDR5Xダイを採用することで、単一モジュールで驚異的な集積度を実現している。

AIモデルの大規模化に伴い、データセンターにおけるメモリの電力消費量と実装面積の削減は急務である。Micronが発表した256GB SOCAMM2は、従来の標準的なサーバー向けRDIMM(Registered Dual Inline Memory Module)と比較して消費電力を3分の1に抑え、実装面積も3分の1へと劇的に縮小させている。さらに、1システム(8チャネルCPU)あたり最大2テラバイト(TB)のLPDRAMを搭載可能とすることで、長文脈の大規模言語モデル(LLM)推論における初回トークン生成時間(Time to First Token:TTFT)を既存構成の2.3倍で処理する。

容量の飛躍的な増大とアーキテクチャの進化は、AIインフラストラクチャにおけるメモリ構成の根本的な見直しを迫るものであり、激化する次世代メモリ開発競争の新たな指標となる。

AD

「第2のHBM」として台頭するSOCAMMの存在意義

AI開発の焦点が学習モデルの構築から実践的な推論フェーズ、さらには自律的にタスクを処理するエージェントAIへと移行する中、サーバーアーキテクチャにはより多くのモデルパラメータと長大なコンテキストウィンドウを処理できる能力が求められている。ここで深刻なボトルネックとなるのが、キー・バリュー(KV)キャッシュと呼ばれる短期記憶領域の膨張である。

LLMが回答を逐次生成する過程で、過去の文脈をトランスフォーマー層の各計算ステップで再評価する無駄を省くため、KeyテンソルとValueテンソルをメモリ上に保持する仕組みがKVキャッシュである。コンテキストウィンドウが10万トークンから100万トークンへと急拡大する近年のモデルアーキテクチャにおいて、多数の並行セッションのキャッシュを推論ノードで維持することは、極端なメモリ容量の消費を伴う。GPU内部の広帯域メモリ(HBM)やSRAMの容量限界に即座に直面し、メインメモリやストレージとの間で深刻なデータスワップによる処理遅延が発生していた。

NVIDIA主導のもとJEDECで仕様の標準化が進むSOCAMM規格は、このメモリ容量・帯域幅の壁と、電力・熱制約の壁を同時に突破するアプローチを採用している。モバイル機器向けのLPDDR規格コア技術をサーバー用途に転用することで、HBMと比較してデータ転送速度こそ下回るものの、圧倒的な低消費電力とコスト抑制効果を実現する。GPU側で超並列計算と超高速アクセスを担うHBMに対し、SOCAMMはCPU側に密接に配置され、大容量の安価なキャッシュプールとして推論レイテンシを平準化する相互補完関係を構築している。

従来のDDR5ベースのRDIMMでは、データ転送速度と実装容量を追求するほど消費電力が急増し、ラック密度を極限まで高めた最新鋭のAIデータセンターでは冷却性能に対する重度な負荷要因となっていた。SOCAMM2は液冷式サーバー設計と連携しやすいフラットなモジュール形状を採用し、稼働時の故障発生に基づくモジュール交換の容易性や将来の搭載容量拡張の余地を確保しながら、システム構築運用に関わる総所有コスト(TCO)の大幅な引き下げを実現する。

モノリシック32Gbダイによる速度と電力性能の跳躍

Micron製256GB SOCAMM2の技術的裏付けは、同社が独自開発したモノリシック設計の32Gb LPDDR5Xダイにある。競合他社が先行発表した192GBモジュール製品のアーキテクチャは、シリコンダイ単体の容量が24Gbのものを使用し、これを16層にスタックする構造を取っていた。Micronは単一ダイの記憶密度そのものを32Gbへと引き上げ、同一の物理パッケージサイズを維持したまま、モジュールごとの総データ容量を約33%も増加させた。

これによる性能インパクトは実験数値として顕著に表れている。Llama 3 70Bを用いた社内ベンチマーク結果では、ユニファイドメモリアーキテクチャにおいて本モジュールをKVキャッシュのオフロード先領域に適用した際、ユーザーのプロンプト入力から最初の回答出力までの遅延時間(TTFT)が既存の1.5TB構成と比較して0.28秒から0.12秒へと短縮された。計算リソースへの負荷が急激に変動する本番環境の推論インフラにおいて、待ち時間の半減は利用者の体感応答性を大きく変容させる。リアルタイム応答がサービス品質に直結する次世代型AIプラットフォームにおいて、この物理的なアドバンテージは強力な武器となる。

また、AIワークロード専用の加速器を伴わないスタンドアロンCPUによる数値解析や気象シミュレーションといったHPC(ハイパフォーマンスコンピューティング)環境下においても、標準的なメモリ構成と比して電力単位の実効性能(Performance per Watt)で3倍の数値を記録している。最高で毎秒9.6ギガビット(Gbps)に達するクロック動作速度と共に、省電力メモリアーキテクチャを汎用サーバー領域に展開させる技術的な根拠を強固に裏付けている。

AD

NVIDIAの最新アーキテクチャ「Vera Rubin」を巡る3社の覇権争い

今回の256GB SOCAMM2発表は、現在水面下で激しさを増すMicron、Samsung Electronics、SK hynixの大手メモリ製造3社による市場シェア争奪戦の一環である。その争いの最大目標は、2026年後半の市場投入が予告されているNVIDIAの次世代AIアクセラレータプラットフォーム「Vera Rubin」での採用シェアの確保だ。Vera Rubinプラットフォームは36基のVera世代CPUユニットと、72基のRubin世代GPUから構成され、前世代アーキテクチャに対し事実上5倍の推論処理能力を持つ。このVera CPUシステムに搭載される主記憶装置の基準規格こそがSOCAMM2となる。

初期規格のSOCAMM1策定段階では、Micronが最も早くNVIDIAの設計検証ラインに乗り、市場全体の主導権を確保する態勢を整えていた。しかしその直後、NVIDIAプラットフォーム側での発熱問題やモジュール実装上の仕様変更に端を発し、SOCAMM1プロジェクト全体の中止と、新規格であるSOCAMM2への移行が確定する。このプラットフォームの空白期を好機と見たSamsungとSK hynixはNVIDIAと緊密な連携体制を再構築し、第5世代(1b)10ナノメートル級プロセスによる192GB SOCAMM2を相次いで投入し、初期プラットフォーム製品群での搭載実績を積み重ねていた。

そして今回、Micronが256GBという最大容量モデルの商用サンプル出荷に他の2社よりもいち早く漕ぎ着けた背景には、奪われたSOCAMM次世代市場における先手を取り戻すとの強い戦略的思惑がある。Micronは3月中旬にカリフォルニア州で開催されるNVIDIAの大規模開発者会議「GTC 2026」の場で本記憶装置モジュール本体を公開し、データセンター事業者に向けてNVIDIAエコシステムへの強い貢献度を直接アピールする運びとなっている。

業界統一規格へ向かうエコシステムと今後の行方

特定のAIハードウェアメーカーと少数メモリベンダーによる専用仕様から始まったSOCAMM技術は、現在JEDEC(半導体技術協会)の傘下で正式な工業規格「JEDEC SOCAMM2」としての仕様確定プロセスに移行している。国際規格化が進むことで、サードパーティ製サーバーへの相互運用性が担保され、AIインフラにおける低電力メモリの技術採用は爆発的な広がりを見せると予測される。

演算プロセッサの微細化が物理的限界に接近し、AIモデルの要求パラメータ数が飛躍する中、「いかに大量のデータを、いかに少ない電力で演算ユニットの傍に配置するか」という命題はデータセンターの存亡そのものを決定づける。「第2のHBM」と呼ばれるこのSOCAMM2は、単なるサーバー用構成部品の種類ではなく、消費電力と処理性能のトレードオフを再定義する根幹インフラである。Micronが実現した単独モジュールでの256GB到達は、AIハードウェアを取り巻くメモリの進化速度が全く衰えを見せず、むしろ開発競争が一段と激化している現状を明確に示している。


Sources