ByteDanceが、最大10兆パラメータに達する可能性のあるAIモデルの事前学習を始めた。Financial Timesが2026年8月7日、事情を知る3人の話として報じた。計画どおりなら、総パラメータ数はMoonshot AIが公開したKimi K3の約3.6倍になる。ただし、ByteDanceのモデルは規模も構造も固まっておらず、Anthropicは比較できる数字を開示していない。10兆は性能の到達点ではなく、現段階で検討されているモデル規模の上限だ。

AD

10兆パラメータは完成仕様ではない

Financial Timesによると、ByteDanceは最大10兆パラメータのモデルを事前学習している。情報源の1人は、この工程には通常3〜6カ月かかり、順調に進めばその後に追加学習を施して公開すると説明した。最終的なパラメータ数も後の段階で決まるという。8月7日時点で、10兆は完成モデルの仕様ではなく上限候補だ。

報道で確認できるのは、開発が事前学習の初期段階にあることまでだ。ByteDanceはこの工程を終えた後、順調に進めば追加学習を施してモデルを公開するという。ベンチマーク結果や製品としての提供条件はまだ出ていない。学習中の総パラメータ数から、公開時期や実用性能を先取りすることはできない。

ByteDanceが公式に案内しているSeed2.0シリーズは、Pro、Lite、Miniの3系統である。Proは長い推論を要する複雑な作業、Liteは品質と応答速度の両立、Miniは推論の処理量と高密度な配備を狙う。同社は各モデルのパラメータ数を公開ページで示していない。今回報じられたモデルの名称やSeed2.0との関係も明らかになっていない。

2.8兆のKimi K3、1トークンで動くのは1,040億

比較できる公式値を持つ中国勢では、Moonshot AIのKimi K3が総パラメータ数2.8兆を公表している。最大10兆というByteDanceの候補値は、その約3.6倍だ。しかしKimi K3で1トークンの処理時に有効になるパラメータは1,040億に限られる。総数をそのまま計算量や応答性能へ置き換えると、実態を見誤る。

この差は、Kimi K3がMixture-of-Experts(MoE)を採用しているために生じる。MoEは入力に応じて一部の「専門家」を選び、モデル全体を毎回動かさずに大きな容量を持たせる構造だ。Kimi K3は896の専門家からトークンごとに16を選ぶ。モデル全体の容量と、推論時の計算量を切り分ける設計である。

ByteDanceの新モデルが密な構造なのかMoEなのか、MoEなら何個の専門家を動かすのかは分からない。学習に使うデータの量と質、追加学習の方法、ツールを含む実行環境も未公表だ。したがって10兆2.8兆は開発規模の比較には使えても、3.6倍高性能という意味にはならない。

AD

Anthropicとの比較に足りない公開値

Financial Timesは、ByteDanceの計画をAnthropicの最先端モデルに迫る動きとして報じた。同紙は両社を比べる業界推計も紹介している。しかし、Anthropicはパラメータ数を公表していない。さらに同社は2026年6月9日の発表で、Fable 5とMythos 5は同じ基盤モデルを使い、安全対策の適用範囲が異なると説明している。

Anthropicの公式説明を踏まえると、業界推計をByteDanceの候補値と同じ物差しに並べることは難しい。同社が公開しているのは能力と安全性の評価、そして提供範囲である。価格も示す一方、モデル構造や総パラメータ数は明かしていない。Fable 5は一般向けに提供され、Mythos 5は一部の審査済み組織を対象とする。両者の違いは少なくとも公式上、基盤モデルの大きさではなく安全対策と提供方法にある。

競争上の差は、同じ条件で実行した評価で測る必要がある。エージェント型の課題では、モデル本体に加えて推論時間と利用できるツールが結果を動かす。試行回数や実行基盤が違っても、成績は変わる。ByteDanceがAnthropicへ迫ったかを判断できるのは、学習を終えたモデルが公開され、条件をそろえた第三者評価が出た後だ。

蒸留を避ける長期戦と次の確認点

今回の開発方針には、規模以上に経営上の賭けがある。Financial Timesによると、ByteDanceの基盤モデル部門Seedは1年以上、他社モデルの出力を教師に使う蒸留を避け、独自開発を進めてきた。創業者のZhang Yimingは7月下旬の社内会議で、短期的な遅れを過度に気にせず、長期で「世界をリードするモデル能力」を目指すようチームに求めたという。

蒸留は、強いモデルの出力を学習データとして利用し、別のモデルへ能力を移す手法である。ByteDance経営陣は、競合を上回るには独立した開発が必要だと考えていると報じられた。

判断材料になるのは、最終的な総パラメータ数より、1トークンで動く規模、学習に使った計算量、第三者評価である。製品としての競争力を見るには、APIの価格と提供地域も欠かせない。3〜6カ月とされる事前学習を終えた後、ByteDanceがこれらをどこまで開示するか。10兆モデルの成否は、数字の大きさではなく、同じ条件でAnthropicやKimi K3を上回れるかによって決まる。