Metaは2026年10月15日、コーディングやAIエージェントによる作業に特化したAIモデル「Muse Spark Open」の学習済み重みを公開した。総パラメータ数は8,160億に達するが、推論時に使うのは約420億で、最大100万トークンの長い文脈にも対応する。Appleと協力し、M5 Ultra搭載Mac Studioを複数台接続して動かす構成も公開しており、外部のモデルAPIに依存せず、自社の環境で大規模AIを運用する選択肢が広がった。ただし、ローカルで動かせるとはいえ、大容量メモリと高速な機器間接続が必要になる。導入を検討する際には、推論時に計算するパラメータ数と、モデル全体を保持するために必要なメモリ容量を区別することが重要だ。
推論に使うのは420億パラメータでも、全重みを保持するメモリが必要
Muse Spark Openは、入力に応じて処理を担当する専門家ネットワークを選択する、疎なMixture of Experts（MoE）モデルである。各トークンの処理に使うパラメータを絞ることで、8,160億パラメータすべてを毎回計算する必要がなくなる。ただし、Metaの開発者向け資料によると、推論環境にはモデルの全重みをロードする必要がある。つまり、計算量を減らせるからといって、必要なメモリ容量まで同じ割合で減るわけではない。
必要な容量は、重みの保存形式によっても大きく異なる。BF16形式では約1.65TBだが、大部分を4ビットで格納し、一部をBF16で保持するNVFP4形式なら約537GBに縮小できる。ただし、実行時には過去のトークンの計算結果を保持するKVキャッシュに加え、中間計算や実行ソフトウェアのためのメモリも必要になる。Metaは、BF16形式で推論する場合に必要なVRAMを約2TBと見積もっている。
こうした追加のメモリ消費は、AIエージェントに長時間の作業を任せる場合に特に重要になる。モデルが最大100万トークンに対応していても、重みをメモリに収めるだけで、その長さの文脈や多数の同時実行を快適に処理できるとは限らない。実際に必要なメモリ容量は、扱う文脈の長さや並列実行する作業の数によって変わる。
Muse Spark Openはテキストだけでなく、画像、音声、動画も入力できる。ただし、出力はテキストに限られる。画面の内容を確認しながらコードを修正するといった用途にも利用できるが、音声を入力できることと、音声そのものを生成できることは別である。
Metaが9月2日に発表した「Muse Spark 1.3」は、Muse CodeとMeta Model APIを通じた提供が中心で、学習済み重みの公開は今後の計画とされていた。今回のMuse Spark Openは、その計画を具体化したものだ。開発者はAPIを利用するだけでなく、モデルの重みを取得し、独自に用意した環境で推論を実行できるようになった。
長時間のエージェント作業を支えるメモリ節約技術
推論サービスを提供するBasetenは、Muse Spark Openが長時間のエージェント作業に対応するための仕組みとして、圧縮型MoEと、短い範囲と文脈全体を使い分けるアテンション構造を紹介している。AIエージェントはコマンドの実行、結果の確認、コードの修正を繰り返すため、作業が進むほど履歴が長くなる。そのため、モデルの重みをロードした後にどれだけメモリを確保できるかが、長時間の処理や並列実行の性能を左右する。
圧縮型MoEでは、各専門家ネットワークに入力を渡す前に、共通の処理によって入力ベクトルの次元を縮小する。各専門家による処理結果を統合した後、元の次元に戻す仕組みだ。Basetenによると、この構造は専門家部分のパラメータ数を減らすとともに、GPU間で転送するデータ量も削減できるよう設計されている。なお、どの専門家を使うかを判断するルーターには、圧縮前の入力が渡される。
もう一つの工夫が、ローカルアテンションとグローバルアテンションの併用である。全62層のうち46層は直近2,048トークンを参照するローカルアテンション、残る16層は文脈全体を参照するグローバルアテンションを担う。ローカルアテンションでは古いトークンのキャッシュを上書きできるため、すべての層で全文脈を保持する構造と比べて、メモリ消費を抑えられる。
Basetenが公開した比較では、128Kトークンの文脈を扱う場合、すべての層をグローバルアテンションにした構成では、1系列当たり31GiBのKVキャッシュが必要になる。一方、ローカルアテンションとグローバルアテンションを組み合わせた構成では8.4GiBに収まり、メモリ消費は約3.7分の1となる。ただし、この削減率は特定の条件におけるKVキャッシュの比較であり、モデル全体の必要メモリや処理速度にそのまま当てはまるものではない。 MoEによる重みの圧縮と、アテンション構造による履歴データの削減を組み合わせることで、長時間のエージェント作業に対応しやすくしている。
Mac StudioとNVIDIA GPU、自己運用に必要な構成を比較
MetaはMuse Spark Openを自社環境で動かすための構成として、AppleのMac StudioとNVIDIAのGPUを使う方法を公開している。Macの場合はメモリ512GBのモデルを2台、または256GBのモデルを4台接続する構成が想定されている。一方、NVIDIA環境では、NVFP4形式のモデルを動かすためにBlackwell GPUを4基搭載した単一ノードが目安となる。以下は、10月15日の公開に合わせて示された公式ハードウェア構成とモデルの重み容量を整理したものだ。
| 実行環境 | 配布形式・重み容量 | 公開されている構成 | 主な実行ソフトウェア |
|---|---|---|---|
| Apple | NVFP4・約537GB | M5 Ultra搭載Mac Studio、512GBモデル2台または256GBモデル4台 | MLX |
| NVIDIA | NVFP4・約537GB | Blackwell GPU 4基を搭載した単一ノード | SGLang、vLLM、TensorRT-LLMなど |
| NVIDIA | BF16・約1.65TB | B300などを8基搭載した構成 | SGLang、vLLMなど |
表に示した重み容量にはKVキャッシュなどが含まれておらず、実際に必要なメモリは文脈の長さや並列実行数、使用するソフトウェアによって増加する。また、これらは同じモデルを動かすための構成例であり、処理速度や導入費用が同等という意味ではない。Macで自己運用する場合も、一般的なノートPCで手軽に動かせるわけではなく、複数の大容量メモリ搭載機を組み合わせ、一つの推論環境として運用する必要がある。
Mac同士の接続には、Thunderbolt 5を介したRDMA（Remote Direct Memory Access）を使用し、Appleの機械学習フレームワーク「MLX」がモデルを分割して実行する。RDMAは、機器間でメモリに直接アクセスし、効率的にデータを転送するための仕組みだ。MetaはmacOS 26.2以降を動作条件とし、使用するすべてのMacを相互に直接接続する構成を求めている。必要な台数とメモリ容量を確保するだけでなく、機器間の接続方法も導入時の重要な条件となる。
MetaはMac上での動作例として、Muse Codeを使ったアプリケーション開発や動画編集の実験を紹介している。Mastodonクライアント『Ice Cubes』では、バグの修正から新機能の実装、ビルドまでの作業を実行した。また、動画編集ソフト「DaVinci Resolve」では、映像をフレーム単位で確認し、見せ場を選んで縦型動画に切り抜く作業を試している。いずれも実際のアプリケーションを使った事例だが、さまざまなプロジェクトにおける作業成功率や、クラウド環境と比較した処理速度まで明らかにしたものではない。
Appleとの協力で広がる選択肢と、自己運用に残る課題
Axiosの取材に対し、MetaのAI責任者であるAlexandr Wang氏は、Appleと数カ月にわたって協力してきたと明らかにした。かつてAppleの幹部を務め、現在はMetaに所属するDaniel Gross氏が、両社の協力関係を築くうえで重要な役割を果たしたという。ただし、今回明らかになったのはMuse Spark OpenをMac上で動かすための技術協力であり、Apple Intelligenceへの採用が発表されたわけではない。
モデルを自社環境で運用する最大の利点の一つは、入力データを外部の推論APIに送信せずに処理できることだ。機密性の高いコードや社内文書を扱う場合、データの保存場所や処理環境を自社で管理できる意味は大きい。ただし、AIエージェントがWeb検索や外部サービスを利用する場合には、それぞれのサービスへのデータ送信も考慮しなければならない。モデルをローカルで動かすだけで、システム全体のデータが外部に送信されなくなるわけではない。
一方、大規模なハードウェアを用意できない開発者には、従来どおりAPI経由で利用する選択肢もある。Metaは複数の推論サービス事業者を通じた提供を案内しており、BasetenはModel APIsと専用の推論環境でNVFP4版を提供する。同社のAPIはOpenAI互換のインターフェースを採用し、ツール呼び出しや推論内容の出力、最大100万トークンの文脈に対応するとしている。自己運用とAPI利用では、モデルを動かすためのハードウェア調達や保守、運用管理を誰が担うかが大きく異なる。
ライセンスについても確認が必要だ。Metaは「Muse Model License」について、一定の商用利用条件の下で、多くの開発者が無料で利用できると説明している。ただし、学習済み重みが公開されたからといって、商用利用に一切の制限がないわけではない。また、Metaはモデルに追加の安全性学習を施したとしているが、公開に当たっての同社の判断と、利用者が個々の用途に応じて行う安全性の検証は別の問題である。
Muse Spark Openの公開によって、大規模AIモデルを外部のAPIで利用するだけでなく、自社の機器で直接動かす道が広がった。ただし、8,160億パラメータという規模を考えれば、自己運用には相応の設備投資と技術的な準備が必要になる。今後の重要な判断材料となるのは、実際のコードベースや作業履歴を使った際に、どの程度の文脈長と同時実行数を維持できるかという点だ。そうした条件で処理速度や運用負担を測定することで、Mac Studioを複数台接続する構成、NVIDIA GPUを使う環境、外部APIのどれが自社の用途に適しているかを判断できるだろう。
