Moonshot AIが、総パラメータ数2.8兆の旗艦モデル「Kimi K3」を発表した。100万トークンのコンテキストと視覚入力に対応し、896の専門家から16を選ぶMixture of Experts(MoE)で巨大なモデルを疎に動かす。APIはすでに利用できるが、モデル重みと技術報告は2026年7月27日までに公開される予定だ。実務で重要になるのは、総パラメータ数と1回の推論量を切り離した設計、クローズドモデルより低いAPI料金、そして64基以上のアクセラレータを推奨する配備条件の組み合わせである。
2.8兆でも、毎回すべてを動かすわけではない
Kimi K3の2.8兆は、モデルが保持する総パラメータ数を指す。各トークンを処理するたびに2.8兆個すべてを計算するわけではない。K3は896の専門家のうち16を選び、入力に合う経路へ計算を振り分ける。選択率は約1.79%だが、これを2.8兆へ掛けても活性パラメータ数にはならない。注意層や埋め込み、共有部分が別に存在するからだ。
初代Kimi K2との比較では、Moonshot AIがどこを拡張したかが見えやすい。
| 項目 | Kimi K2 | Kimi K3 |
|---|---|---|
| 総パラメータ数 | 1兆 | 2.8兆 |
| 専門家数 | 384 | 896 |
| 1トークンで選ぶ専門家 | 8 | 16 |
| 活性パラメータ数 | 320億 | 未公表 |
| コンテキスト長 | 12万8,000 | 104万8,576 |
総規模はK2の2.8倍になり、専門家の候補は2倍を超えた。それでもK3の活性パラメータ数は開示されていない。モデル容量、推論時の演算量、実測速度を一つの「2.8兆」で語ることはできない。7月27日の技術報告で活性パラメータ数が示されるかを確認する必要がある。
Moonshot AIは、教師あり微調整の段階から量子化を考慮して学習し、重みにMXFP4、活性値にMXFP8を使ったと説明する。2.8兆個の重みを4ビットの値として単純換算すると、それだけで約1.4TBになる。実際の運用では、量子化形式のメタデータと活性値も保持する。KVキャッシュと実行系のメモリも要る。疎なMoEは1回の演算を減らせても、モデル全体を保存し、高速に専門家へデータを届ける問題は消えない。
長文と深さを別々にほどくKDAとAttnRes
K3の中核には、系列長を処理するKimi Delta Attention(KDA)と、ネットワークの深さ方向を扱うAttention Residuals(AttnRes)がある。KDAは、通常の注意機構と有限状態を使う線形注意を組み合わせる。Moonshot AIの先行研究では、総480億・活性30億パラメータのKimi Linearが、フルMLA構成に比べてKVキャッシュを最大75%減らし、100万トークン時のデコードを最大6倍にした。
ただし、その75%と6倍はKimi Linearで得た値だ。同じ倍率を2.8兆パラメータのK3へ当てはめることはできない。Moonshot AIはKDAに対応したプリフィルキャッシュのvLLM実装を用意し、モデル重みとともに公開する予定だ。このキャッシュで長い共通部分を再利用し、公式APIのトークン価格を抑えていると説明する。コーディング負荷ではキャッシュヒット率が90%を超えるというが、利用者のプロンプト構成によって結果は変わる。
AttnResは、Transformerの各層が以前の層の出力を一律に足し続ける代わりに、必要な過去の表現を深さ方向の注意で選び直す。すべての層を保持する方式はメモリ負荷が増えるため、K3では層をブロックに分けた実用的な構成を使う。先行実験のBlock AttnResは、標準的な残差接続を1.25倍の計算量で学習した場合に相当する損失へ到達した。これもK3より小規模な先行モデルでの結果である。K3で主張する「K2比で約2.5倍の総合スケーリング効率」は、測定式を含む技術報告の公開を待つ必要がある。
長期作業の例として、Moonshot AIはK3に小型モデル向けチップを設計させた。K3は48時間の単一実行でオープンソースEDAとNangate 45nmライブラリを使い、4mm²、100MHz、シミュレーション上で毎秒8,700トークン超の設計を完成させたという。設計には146万個の標準セル、0.277MBのSRAM、INT4演算器が入る。これは製造済みの半導体ではなく、論理設計から検証までを通した概念実証である。
40〜50%安いAPI、ベンチマークにはハーネス差
Kimi K3のAPI料金は、キャッシュにない入力が100万トークン当たり3ドル、出力が15ドルである。100万トークンのコンテキスト全域で同じ単価を使い、キャッシュに当たった入力は0.30ドルまで下がる。
| モデル | 入力 | 出力 |
|---|---|---|
| Kimi K3 | 3ドル | 15ドル |
| GPT-5.6 Sol | 5ドル | 30ドル |
| Claude Fable 5 | 10ドル | 50ドル |
いずれも100万トークン当たりの公表価格である。K3はGPT-5.6 Solより入力が40%、出力が50%安い。Claude Fable 5との差は入力・出力とも70%になる。さらにGPT-5.6 Solは入力が27万2,000トークンを超えると、リクエスト全体の入力単価が2倍、出力単価が1.5倍になる。長いコードベースや文書群を毎回渡す用途では、K3の一律料金と自動キャッシュが予算を組みやすくする。
性能は、価格表ほど単純に比べられない。Moonshot AIの公表値では、Terminal Bench 2.1でK3が88.3、GPT-5.6 Solが88.8だった。BrowseCompではK3が91.2で、GPT-5.6 Solの90.4とClaude Fable 5の88.0を上回る。一方、職業タスクを測るGDPval-AA v2のEloはK3が1,668、GPT-5.6 Solが1,748、Fable 5が1,760である。
これらの数字は、同じ実行環境で横一列に測った結果ではない。KimiCode、Claude Code、Codexという異なるエージェント実行基盤が混在し、既存リーダーボードから採った値もある。Fable 5には別モデルへ切り替わる可能性があり、GPT-5.6 Solでは安全機構(cyberguard)が作動する可能性がある。Moonshot AI自身も、総合性能では両モデルに届かず、利用体験には明確な差があると認めている。K3が示したのは全面的な首位ではなく、複数の長期エージェント課題で最上位群へ入り、その価格を引き下げたことだ。
7月27日に問われる「オープン」の中身
Kimi K3は現在、Kimi.com、Kimi Work、Kimi Code、公式APIで利用できる。完全なモデル重みと技術報告は7月27日までに公開される予定であり、配布ライセンスもまだ示されていない。Moonshot AIは将来の重み公開まで含めて「オープンソース」と呼んでおり、現時点ではAPI提供が先行する。モデルを取得して第三者が総パラメータ数や推論性能を再現できる段階には達していない。
Open Source Initiativeの定義は、利用・研究・変更・共有の自由を条件にする。さらに、十分な学習データ情報と、学習・実行に使うコード、モデルのパラメータを変更に適した形で提供するよう求める。重みが公開されても、それだけでOSIのOpen Source AI Definitionを満たすとは限らない。K3の公開物がどこまで届くかは、ライセンスと学習情報を含めて確認する必要がある。
自社運用の入口も高い。Moonshot AIはK3を配備する際、64基以上のアクセラレータを備えたスーパーノードを推奨する。4ビット値だけで約1.4TBという単純試算を踏まえれば、重みの入手可能性と、経済的に動かせるかどうかは別の問題である。安価な公式APIは、KDAと量子化をモデルへ組み込み、分離型推論基盤とキャッシュをサービス側で最適化した結果でもある。
運用上の癖もすでに文書化されている。K3は思考モードが常時有効で、現時点のreasoning_effortはmaxのみだ。複数ターンでは過去の思考を含む応答全体を次の要求へ戻さないと品質が不安定になり、会話の途中で別モデルから切り替える使い方も推奨されない。曖昧な指示に対して利用者の代わりに予想外の判断をする場合があるため、システムプロンプトやAGENTS.mdで行動範囲を明示するよう公式文書は促している。
7月27日は、2.8兆という総パラメータ数より公開範囲を確認する日になる。まず、活性パラメータ数とライセンスが必要だ。学習情報と第三者が再現できる評価条件まで揃えば、K3は低価格APIから検証可能なオープンモデルへ進む。その公開範囲が、最大級という看板より長く開発者の選択を左右する。