Microsoftは米国時間の2026年10月12日、AI推論向けの自社製アクセラレータ「Azure Maia 300」を発表した。同社の発表によると、2027年に本番環境への導入を開始し、同年からMaiaシリーズの導入規模を数ギガワット級へと拡大する計画だ。将来的には、自社の製品やサービスを支えるAI推論基盤の主力に据える方針である。長い文脈を理解し、複数段階の推論やツール操作を繰り返すAIエージェントが普及するなか、演算器へのデータ供給速度と利用可能な電力が、AIの処理能力を左右する重要な要素となっている。Maia 300は、メモリ構成からラック間の通信までを見直すことで、限られた電力の中でより多くのAI処理を実行できるように設計されている。
演算性能以上にメモリ帯域を強化
Maia 300の仕様で注目すべきなのは、演算性能とメモリ帯域の向上率に大きな違いがあることだ。Microsoftの技術解説によると、前世代のMaia 200と比較して演算性能は36%向上する一方、メモリ帯域は約2.5倍に拡大している。メモリ容量も33%増加しているが、容量の拡大以上に、データ転送速度の向上を重視した設計となっている。
| 項目 | Maia 200 | Maia 300 |
|---|---|---|
| メモリ | HBM3e | HBM4、8スタック |
| メモリ容量 | 216GB | 288GB |
| ピークメモリ帯域 | 7TB/s | 18TB/s |
| SoCの熱設計電力（TDP） | 750W | 950W |
上記の仕様は、MicrosoftによるMaia 200の発表とMaia 300の技術解説に基づく。なお、TDPは熱設計の基準となる値であり、実際の処理で消費される電力とは区別する必要がある。
この設計の狙いを理解するには、AIの推論処理を二つの段階に分けて考えるとわかりやすい。
まず、入力された文章をまとめて処理する段階（プリフィル）では、大量の計算を並列に実行できる。一方、回答を一つずつ生成する段階（デコード）では、次のトークンを生成するたびにモデルのデータや文脈を参照する必要がある。そのため、メモリ帯域やアクセラレータ間の通信速度が処理性能の制約になることがある。MicrosoftもMaia 200の設計思想を説明した技術記事で、この二つの処理の特性の違いを重視していた。
演算器だけを高速化しても、必要なデータが十分な速さで届かなければ、待ち時間は解消されない。Maia 300の大幅なメモリ帯域の強化は、こうしたボトルネックを緩和するためのものと考えられる。ただし、入力する文章の長さや同時に処理するリクエスト数によって負荷の特性は変わるため、すべての推論処理が同じ割合で高速化されるわけではない。
利用者にとって重要なのも、演算器の理論性能そのものではない。回答が始まるまでの待ち時間を短くし、生成速度を維持しながら、どれだけ多くの利用者に同時にサービスを提供できるかという点だ。
高いメモリ帯域を実際の処理能力の向上につなげるには、処理の特性に合わせてデータを適切に配置し、演算器がデータを待つ時間を最小限に抑える必要がある。
チップレット構造とNUMAでデータ配置を最適化
Maia 300は、演算、メモリ制御、入出力などの機能を複数の小さな半導体ダイに分割する「チップレット構造」を採用している。演算用チップレットにはTSMCのN2Pプロセスを使用する。すべての機能を単一の製造プロセスで実装するのではなく、それぞれの役割に応じた設計を採用する方式だ。
また、メモリへのアクセス条件が場所によって異なるNUMA（Non-Uniform Memory Access）構成へ移行している。
NUMAでは、演算器が利用するデータをできるだけ近くのメモリに配置することで、パッケージ内で長い距離を転送する負担を減らせる。MicrosoftがMaia 300の技術解説で強調するデータの局所性は、チップレット構造と密接に関係している。
こうしたデータ配置を支えるのが、Maia 200から引き継がれた「SDLA」という設計思想だ。
SDLAでは、ソフトウェアがデータの配置先や転送を明示的に管理し、演算とデータ転送を並行して実行する。チップ内の高速なSRAMも、ソフトウェアが直接管理する作業領域として使用する。一般的なキャッシュの自動制御に任せるのではなく、必要なデータを必要なタイミングで演算器の近くに配置する仕組みだ。MicrosoftはMaia 200の技術解説でも、このアプローチを詳しく説明している。
適切なデータを近くに配置できれば、高速なメモリ領域を効率よく繰り返し利用できる。その一方で、配置が処理の特性に合っていなければ、演算器とメモリの間で余計なデータ転送が発生し、性能が低下する可能性もある。
つまり、ハードウェアの性能を最大限に引き出すには、コンパイラや個々の計算処理を担うカーネルの最適化も欠かせない。Maia 300の専用設計は、ソフトウェアによる高度な制御を前提としている。
データ転送の負担を減らすため、Maia 300ではデータそのもののサイズを小さくする技術も採用している。改良されたMXFP4などの低精度形式に対応するほか、3ビット未満でデータを保存する形式も導入する。
ただし、データの保存に使用するビット数と、実際の演算精度は別の概念だ。3ビット未満の保存形式に対応するからといって、すべての計算をその精度で実行するという意味ではない。
長い文脈を扱うAIでは、生成途中の中間データを保持する「KVキャッシュ」も大量のメモリを消費する。
Microsoftは2026年9月に公開したAIインフラ戦略の解説で、モデル側の最適化やデータ圧縮と、メモリ階層の適切な管理を組み合わせる重要性を指摘していた。
圧縮技術によって同じメモリ容量でより長い文脈を保持したり、同時に処理できるリクエスト数を増やしたりできれば、物理的なメモリ増設以上の効果が期待できる。ただし、圧縮によって回答品質が低下しないかどうかは、モデルごとに検証する必要がある。
最大12,288基を接続、入力処理と回答生成を分離
Maia 300は、96基のアクセラレータを1ラックに搭載し、最大128ラック、合計12,288基を接続できる設計となっている。
通信にはEthernetを基盤とする独自のAI向けプロトコルを採用し、ラック内とラック間で共通の通信方式を使用する。Microsoftの接続アーキテクチャに関する説明によると、ホストCPUや独立したスケールアウト用ネットワーク装置を経由することなく、アクセラレータ間で直接データを転送できる。
この接続方式が特に効果を発揮すると期待されるのが、入力処理と回答生成を分離する構成だ。
長い文章を読み込んで処理するプリフィルと、回答を順次生成するデコードを別々のアクセラレータに割り当てる。プリフィルが完了した時点で、生成されたKVキャッシュをデコード側へ転送し、回答生成を引き継ぐ仕組みだ。Maia 300では、このデータの受け渡しを共通の通信基盤で処理できる。
例えば、長い資料を読み込むリクエストが集中している場合と、短い質問に対して長い回答を生成するリクエストが多い場合では、必要な演算資源の配分が異なる。
プリフィルとデコードを別々に管理できれば、負荷の状況に応じてアクセラレータを柔軟に割り当てられる。ただし、処理を分離するとKVキャッシュの転送が必要になるため、分離による効率改善が通信負荷を上回るよう、適切に配置する必要がある。
ラックをまたいで空いているアクセラレータを活用できることも、設備全体の稼働率を高めるうえで重要だ。
処理の割り当てがラック単位に制限されていると、あるラックでアクセラレータが余っていても、別のラックで発生した処理需要に対応しにくい。MicrosoftはMaia 300について、ラックをまたぐワークロードの配置や、障害発生時に別ラックの待機装置を利用する仕組みも説明している。
大規模な設備を導入するだけでなく、できる限り無駄なく稼働させることが狙いだ。
もっとも、同じ通信方式を採用しているからといって、すべてのアクセラレータ間で通信遅延が同じになるわけではない。同じラック内の通信とラックをまたぐ通信では、データが通る経路が異なる。
応答速度が重要な処理は近接するアクセラレータに配置し、大規模な並列処理は複数ラックへ分散させるなど、処理の性質に応じた使い分けが引き続き必要になる。
最大12,288基を接続できることと、それらすべてを単一の処理で効率よく利用できることは、分けて考える必要がある。
「電力効率40%向上」と「最大7倍」の意味
MicrosoftはMaia 300について、主要なGPUベースのシステムと比較し、1メガワット当たりに処理できるトークン数が40%増加すると予測している。
ただし、10月12日の発表では、比較対象となるGPUの型番や、使用モデル、応答速度などの条件を統一した詳細な評価結果は公開されていない。そのため、この数値を特定のGPUに対する普遍的な性能上の優位性や、第三者による独立した測定結果として受け取ることはできない。
仮に、同じモデルと応答条件で電力当たりの処理量が40%向上するなら、同じ処理量を実行するために必要な電力は、計算上約28.6%減少する。
これはMicrosoftの予測値をもとに、（1 − 1 ÷ 1.4）× 100 で換算したものであり、実測された電力削減率ではない。また、電力効率の改善率と消費電力の削減率は同じではない点にも注意が必要だ。
一方、Microsoftが示す「最大7倍」という性能向上は、比較対象も測定単位も異なる。
こちらはMaia 200と比較した場合の、96基のアクセラレータを搭載するラック全体のトークン処理量を指している。
Maia 300では、ラック当たりのアクセラレータ搭載密度そのものが前世代の2倍になっている。そのため、最大7倍という数字をチップ単体の性能向上率と解釈することはできない。単純に搭載数で割ったとしても、メモリ帯域や通信性能、処理の配置による改善効果を正確に切り分けることは不可能だ。
96基のMaia 300を搭載するラックには167kWの電力枠が設定され、発生する熱の80%以上を液冷システムで除去する設計となっている。ホストシステムをアクセラレータと同じトレーに収めるなど、高密度実装と冷却効率の両立も図られている。
Maia 300は、メモリ容量や帯域を増強するだけでなく、大量のアクセラレータを電力供給と冷却能力の制約内で効率的に稼働させることまで考慮したシステムだ。
電力効率が向上すれば、同じ電力上限の中でより多くのAI処理を実行できる。特に電力供給に制約があるデータセンターでは、その効果は大きい。
ただし、AIサービスの運用コストには、アクセラレータやメモリの調達費用も含まれる。実際のサービス料金も設備の稼働率や事業者の価格戦略に左右されるため、電力効率の改善がそのままCopilotやAzureの利用料金の引き下げにつながるわけではない。
2027年の本格導入へ、鍵を握るソフトウェアと運用効率
前世代のMaia 200は、すでにMicrosoft Copilotなどの本番環境で使用されており、OpenAIのモデルに加えて、Microsoft独自のMAIモデルやオープンソース系のモデルも実行している。
Microsoftの10月12日の発表によると、GitHub CopilotやMicrosoft Foundryへの展開も2026年末までに予定されている。Maia 300は、こうした実際の運用で得られた知見を反映し、2027年からMaiaシリーズの導入規模を大幅に拡大するための次世代製品となる。
ソフトウェア環境の整備も、前世代から継続して進められている。
Microsoftは2026年1月のMaia 200発表時、SDKのプレビューを発表するとともに、PyTorchとの統合やTritonコンパイラ、低水準のプログラミング手段を紹介していた。
既存のAIモデルを移植しやすくする一方、性能が重要な部分については、開発者がデータ転送や演算処理を細かく最適化できる環境を整える狙いがある。
ただし、あるモデルが動作することと、そのモデルを高い効率で実行できることは別の問題だ。
Maia 300の広いメモリ帯域や、データの配置場所を意識したNUMA構成を最大限に活用するには、各モデルに合わせたカーネルの最適化と、適切な処理の割り当てが必要になる。
低精度化やデータ圧縮を利用しても回答品質を維持できるか、応答速度を犠牲にせずに同時処理量を増やせるかも重要だ。こうした条件を満たして初めて、ハードウェアの理論性能を実際の運用コスト削減につなげられる。
また、Microsoftは今後も複数のハードウェアやAIモデルを組み合わせる方針を示しており、Maia 300の登場が既存のGPUを全面的に置き換えることを意味するわけではない。
一般のAzure利用者がMaia 300をどのような仕様や料金で利用できるのかについても、今回の発表では明らかにされていない。現時点で確かなのは、Microsoftが自社のAIサービスを支える計算基盤を大規模に刷新しようとしていることだ。
2027年の本番導入後に注目すべきなのは、同じモデルと回答品質を維持し、応答速度の条件を満たしたうえで、電力当たりの処理量をどこまで増やせるかという点である。
その改善効果をさまざまなAIモデルや実際の高負荷環境でも発揮できれば、Microsoftは限られた電力供給能力の中で、より多くのAIサービスを提供できるようになるだろう。