
AIサーバーの部品費は75%超がメモリ、Googleが示すコストを抑える2つの対策
GoogleはTPUの設計とKVキャッシュ圧縮で、AIサーバーのメモリ制約に対応する。6分の1という圧縮率が総メモリ使用量や費用に直結しない理由を、仕様と計算から確かめる。
Term
HBMとは、複数のDRAMダイを縦方向に積み重ねてシリコン貫通電極(TSV)で接続することで、従来のDRAMと比べて大幅に高いメモリ帯域幅を実現する広帯域メモリ規格だ。AIアクセラレータやGPUなどの演算チップに近接配置して使用され、AI推論・学習処理の高速化に不可欠な技術として位置づけられている。
全 322 件 / 27 ページ

GoogleはTPUの設計とKVキャッシュ圧縮で、AIサーバーのメモリ制約に対応する。6分の1という圧縮率が総メモリ使用量や費用に直結しない理由を、仕様と計算から確かめる。

Micronが検討するGPU近傍NANDを、同社のHBM4やPCIe 6.0 SSD、OCP HBFと比較し、製品化に必要な性能と実装条件を検証する。

SamsungはHBM5で性能2倍と熱抵抗20%低減を狙う。一方、zHBMの「8倍」は比較対象がHBM4EとHBM5に割れており、絶対帯域や測定条件の開示が評価の分かれ目となる。

36GB HBM3Eのスポット価格が1個約2100ドルに達し、長期契約価格の4〜5倍になったと報じられた。Samsungはメモリ生産能力の60〜70%を2031年までの長期契約へ割り当てる計画で、契約に入れるかどうかがAI用メモリの調達条件を左右し始めている。

MediaTekが先端パッケージ人材の採用を広げている。公式求人と技術資料から、AI ASICを設計、量産、調達まで一体運用する狙いを読み解く。

中国DRAM大手CXMTがHBM3Eを少量生産し、T-HeadとCambriconが採用試験中と報じられた。2027年搭載には顧客認定、歩留まり、供給量の確認が残る。

TSMCの先端パッケージング技術CoWoSは3年で月産能力が約9倍に拡大したが、需給ギャップはなお約10%残る。歩留まりの物理的な壁と、NVIDIAが容量の過半を確保する商流構造という二つの制約を、一次資料と複数の推計から読み解く。

韓国のDRAM輸出単価が2026年8月に1kg9万2183ドル、前年同期比401%増となり金620g相当に達した。SamsungとSK hynixのHBM優先という生産配分の転換が汎用DRAMを枯らし、NVIDIAのAIサーバーからVAIOのPCまで値上げが連鎖している。

SK hynixはIndiana州でHBM先端パッケージ工場を着工した。韓国製ウェハーを現地で積層・検査し、米国顧客向けに2029年後半の量産を目指す。

MicronはHBM3Eが同一ノードのDDR5より約3倍のウェハを使い、この投入比は次世代でさらに上がると説明した。帯域拡大がDRAM供給と熱設計に与える制約を追う。

NVIDIAはHBM制御回路をベースダイへ移すNVHBMを発表した。帯域と電力、計算面積の改善を掲げるが、絶対仕様や量産時期、採用製品は未公表である。

SK hynixはHBM内部の接合、2.5D実装、将来の3D統合を一体設計する方向を示した。EMIBは採用決定ではなく、量産化には給電・冷却・歩留まりの検証が残る。