大規模言語モデル(LLM)の学習および推論において計算資源の制約が顕在化し、AIインフラストラクチャにおけるコストとパフォーマンスの最適化が業界全体の至上命題となっている。このパラダイムシフトの只中において、AIチップスタートアップのMatX5億ドルのシリーズB資金調達を実施した。同社はGoogleの独自AIチップであるTPU(Tensor Processing Unit)の基盤を築いた元エンジニア陣によって2023年に設立され、現在データセンター市場を独占しているNVIDIA製GPUを大きく凌駕する性能を発揮するプロセッサ「MatX One」の開発を推進している。

今回の大型資金調達は、AIハードウェア市場における競争のステージが、汎用的な計算能力の追求から、LLMのアーキテクチャに特化した極限の最適化シリコンへの投資へと移行しつつある構造的変化を明確に示している。

AD

異例の投資家陣が示唆するMatXへの期待値と市場の渇望

MatXのシリーズBラウンドは、およそ5億ドルという巨額の資金を集めた。この調達ラウンドを主導したのは、高い技術力と独自の計算インフラストラクチャを持つことで知られるウォール街の計量投資会社Jane Streetと、元OpenAIの研究者であるLeopold Aschenbrenner氏が設立したファンドSituational Awarenessである。ハードウェアスタートアップのアーリーステージにおいて、大手の汎用メガファンドではなく、金融工学の実践者やAIの思想的牽引者がリード投資家となるケースは極めて特異である。

この顔ぶれの特異性は、投資家陣全体の構成にも表れている。Spark Capital、Nat Friedman氏、Stripeの共同創業者であるPatrick Collison氏とJohn Collison氏らに加え、特筆すべきはAI研究の第一人者であるAndrej Karpathy氏やDwarkesh Patel氏といった、アルゴリズム開発の最前線に立つ実務家が名を連ねている点である。さらには、半導体設計とサプライチェーン基盤を支えるAlchipやMarvellも出資に加わった。

とりわけ、汎用人工知能(AGI)の到来を見据えた考察論文で世界的注目を集めるLeopold Aschenbrenner氏のSituational Awarenessや、高度な数理モデル処理の遅延を削ることに投資してきたJane Streetからの出資は、単なる資金提供以上の意味を持つ。これは、LLMの物理的なインフラ限界が数年以内に顕在化するという明白な課題意識と、その壁を突破するためには既存のNvidia製GPUの設計思想を根本から刷新するアプローチが不可欠であるという確信の表れである。2024年にSpark Capitalが主導し、3億ドル超の評価額で行われたシリーズAから短期間でこの規模の追加調達を実現した事実は、既存システムに対する圧倒的なパフォーマンス優位性が実証されつつあることを物語っている。

Google TPU開発の系譜:Reiner PopeとMike Gunterが描く思想と現場の知見

MatXの技術的な信頼性と差別化要因の中核は、共同創業者であるReiner Pope氏とMike Gunter氏のキャリアにある。Reiner Pope氏はGoogleでTPU向けAIソフトウェア開発の統括レイヤーを主導し、自身のソフトウェアがハードウェア上でどのように最適化してマッピングされるかを深く理解していた。一方で、共同創業者のMike GunterはTPUのハードウェア構成を設計したリードデザイナーである。

TPUは、Googleが自社の巨大なAIワークロードを効率的かつ低電力で処理するために、第一原理から設計した専用のASIC(特定用途向け集積回路)である。NvidiaのGPUが元々グラフィックス・レンダリングという高度に動的な用途から発展し、複雑な制御回路やキャッシュ階層を維持したままAIの行列演算に適応してきたのに対し、TPUはそもそもテンソル演算に極大特化して無駄を削ぎ落とした設計を採用している。Reiner PopeとMike Gunterの二人は、世界で最も巨大なAIインフラストラクチャを構築・運用し、そこで生じるメモリ限界、計算効率の低下、ネットワーク遅延の課題を直接解決してきた。

彼らがMatXを設立した根底には、「LLMにとって最適なチップは、LLMのアルゴリズムが何を必要とし、今後どのように進化していくかについての深い理解に基づき、第一原理から設計されるべきである」という技術的信念がある。机上のアーキテクチャ設計にとどまらず、長大なクラスタサイズのソフトウェアとハードウェアの同期問題を身をもって経験している彼らだからこそ、特定領域への完全最適化という劇的な戦略を描くことが可能となった。MatXは現在100名規模の専門家集団へと成長しており、学習率スケジュールの設計やSwing Modulo Schedulingを専門とするソフトウェアエンジニア群と、丸め誤差処理(guard/round/sticky bits)やブラインドメイト接続による物理的伝送を担うハードウェアエンジニア群が、同じ建物で密接に協力し合いながら、システムの全階層を俯瞰した協調設計(Co-design)を実践している。

AD

MatX Oneアーキテクチャの解剖:意図的なトレードオフによる性能の極大化

MatXが開発を進めるLLM専用チップ「MatX One」の最大の特徴は、アーキテクチャの汎用性を徹底的に捨て去り、LLMの推論および学習並列処理パイプラインに極限まで最適化された点にある。

ハードウェア開発において、特定のワークロードへの過度な特化は、市場規模を狭めるリスクと同義であると一般にみなされる。通常のチップ設計では、顧客要件を満たすために、小規模なモデルでも適切に動作し、柔軟なプログラミングインターフェースを備えるように設計される。しかしMatXは、小規模モデルにおける性能、低ボリュームのマイナーなワークロード、さらにはプログラミングシステム構築の容易さでさえも敢えて妥協するという選択を下した。LLMの巨大な行列演算スループットの最大化という一点において、Nvidiaをはじめとする汎用計算チップを破壊的に凌駕するためである。

分割可能なシストリックアレイ(Splittable Systolic Array)による演算効率の追求

MatX Oneの設計思想の基幹を成すのが、分割可能なシストリックアレイ(Splittable Systolic Array)構造だ。シストリックアレイとは、データが多数の積和演算器のアレイの中を心臓の鼓動(Systolic)のように規則的かつ同期的に流れていくアーキテクチャであり、巨大な行列の掛け算において卓絶した電力効率と面積効率を発揮する。

しかし、従来の巨大なシストリックアレイには、扱う行列のサイズがアレイのサイズと一致しない場合、稼働していない演算要素が大量に発生して実効効率が低下するという大きな弱点が存在した。また、LLMの推論フェーズではトークン生成(Decoding)時に要求されるバッチサイズや行列の形状が状況に応じて動的に変化するため、この非効率性が顕著になる。MatX Oneのアプローチは、このアレイ構造を動的に分割して利用可能にすることで、高いエネルギー効率を維持したまま、細かな行列パターンが発生する推論処理プロセスにおいても、チップ全体における演算器の高い稼働率を維持することを可能にしている。

SRAMファースト設計とHBMの緊密な統合によるメモリ・ボトルネックの解消

現在、LLM処理性能の天井を画定している最大の要因は、演算チップの内部クロックそのものではなく、膨大なパラメータを外部のメモリ階層から演算器へと継続的に供給する能力(メモリ帯域幅)と、その際の遅延(レイテンシ)である。

MatX Oneは、SRAM(Static Random Access Memory)の容量と配置を最優先する設計(SRAM-first)を採用している。演算器に極めて近いチップ上の空間に大規模なSRAMアレイを配置し、パラメータおよび中間状態へのアクセス距離を物理的に短縮することでレイテンシの極小化を実現する。同時に、現在主流となっている長文脈(Long-context)モデルの膨大なバッチ状態を保持するためには、オンチップSRAMの限られた容量だけでは不可能である。そのため、外部接続メモリとしてHBM(High Bandwidth Memory)をサポートし、SRAMとHBMの階層を独自のデータ移動命令とインフラ制御で緊密に統合している。

さらにはLLMの数値表現演算(Numerics)の回路実装を大幅に見直すことで、生成精度を維持したままレジスタ間のデータ移動量を削減し、実効スループットを押し上げている。これらの機能的組み合わせにより、MatX Oneは、発表済みのいかなるAIチップ環境よりも高いスループットを提供しつつ、同時にSRAMファースト設計に由来する極めて低い推論レイテンシを両立させることが可能となった。スループットとレイテンシの同時改善は、単位コストあたりの生成トークン量を爆発的に増加させる。

競合環境と製造へのロードマップ:シリコン覇権の変動

MatXが直面するシリコン環境は、生成AIの基盤モデル開発競争と同等かそれ以上に厳しい生存競争が繰り広げられる領域である。NVIDIA製GPUの過酷な調達コストと冷却設備の限界がデータセンター事業者の財務を圧迫するようになり、代替のハードウェア手段への渇望は急速に常態化している。

NVIDIAの圧倒的なインフラ体制の壁を崩そうとしているのはMatX一社ではない。その象徴といえるのが、同様に特化型AIチップを開発する新興企業Etchedである。Bloombergによれば、Etchedは50億ドルの高額な企業評価で同じく5億ドルの資金調達ラウンドを実施した。両社ともLLM専用である点は共通しているが、アプローチは異なる。

MatXが持つ決定的な差別化能力は、アーキテクチャとしての「演算汎用性の調整」と、巨大インフラにおける「クラスタの運用経験」にある。特定のニューラルネットワーク構造をチップ内部の回路として完全にハードコーディングしてしまうと、ソフトウェア層におけるアルゴリズムのブレイクスルー(Transformerに代わる新しいアテンション機構などの登場)が発生した瞬間に、投下したハードウェアが陳腐化する強いリスクを被る。MatXは、不要な汎用性を削ぎ落としながらも、LLMの計算パターンに基づく数学的な行列演算の普遍性に焦点を絞ることで、将来のモデル進化に対するハードウェア側の生存性を維持している。加えて、Google TPUという本番環境クラスタの運用実績を有する基幹メンバーの存在は、投資家陣に対してハードウェアの生産だけでなく、複数ラックにまたがる通信ソフトウェアスタックの安定性を強固に保証する基盤となっている。

調達した5億ドルの巨額資金は、二つの決定的な目的に投下される。一つはチップ開発の最終ステップを完了させるための資金であり、もう一つは製造プロセスの急速なスケールアップに向けたファブレベルの供給網確率である。MatXは12ヶ月未満でのテープアウト(半導体の物理的設計完了と製造工場へのデータ引き渡し手続き)を計画している。実際の物理チップ製造は台湾のTSMC(Taiwan Semiconductor Manufacturing Company)が受託し、2027年にはチップの量産出荷フェーズへと突入する予定である。すでにAlchipやMarvellといった超高速チップ間通信IPやシステム基盤設計を担うサプライチェーン企業が資金提供者として参加している現実は、将来的に数万個単位でのシステムレベルのスケールアウト設計を見据えた布石として機能している。

AD

AIインフラストラクチャにおける限界突破とパラダイムの推移

MatXによる大規模資金調達は、AIインフラ市場の力学が、巨大資本による汎用ハードウェアの量的確保競争から、計算工学の洗練によるアーキテクチャ・ブレイクスルーの開発競争へと明確にシフトしたことを証明している。LLMのパラメータ数が天文学的規模に達し、電力インフラ自体が技術の発展を阻害しつつある現在、計算基盤設計におけるパラダイムシフトの必要性は自明である。

プログラミングの自由度や小規模なタスクへの対応を完全に放棄してでも、LLM推論での低遅延レスポンスと学習時のスループット最大化を一点追求するというMatXの決断は、ある種の必然性を含んでいる。かつてグラフィックスの計算処理においてソフトウェア処理から専門的なGPUハードウェア処理へと進化し、それが現代の汎用並列処理の基盤となったように、今日の汎用的並列処理基盤(現在のAI向けGPU)もまた、LLMの特有なデータ遷移パターンに向けて再専門化されたシリコン群へと役割を譲り渡す技術的変節点に差し掛かっている。

TSMCによる製造を経て出荷が開始される2027年において、MatX Oneが提供すると称する性能の向上がベンチマークと現実のデータセンター運用で裏付けられたとき、Nvidiaの絶対的地位を保ってきたソフトウェア側の堀を越え、人工知能インフラストラクチャの処理基盤手法そのものが完全に再定義される時代を迎えるだろう。


Sources