Thinking Machines Labは2026年11月20日、AIモデル「Inkling 2 Mini」を公開した。264億パラメーターを持ちながら、内部の中間12層を3回繰り返し使うことで、モデルの重みを増やさずに推論時の処理を深くする独自の構造を採用している。重みはApache 2.0ライセンスで公開され、メモリ32GB以上のAppleシリコン搭載Macでも実行できる。同社のベンチマークでは、同規模のQwen3.8-27Bと総合評価で並び、コード修正では上回る一方、業務自動化では下回るなど、用途によって性能差が見られた。

AD

中間12層を3回繰り返す独自のアーキテクチャ

Inkling 2 Miniの特徴は、同じ重みを繰り返し使用する「反復層」の仕組みにある。モデルは最初の6層で入力を処理した後、中間の12層を3回通過し、最後の6層を経て次のトークンを生成する。中間層は毎回同じ重みを使うが、単純に同じ計算を繰り返すわけではない。各周回では最初の6層の出力を参照し、2周目と3周目では学習済みのゲートが直前の周回結果を取り込む割合を調整する。

Thinking Machines Labの技術解説によると、モデルが保持する重みは24層分だが、1トークンの生成時には延べ48層分の処理を行う。内訳は、前段の6層、中間の12層を3回、後段の6層で、合計は次のようになる。

通常、層を増やすと保存する重みも増えるが、この方式では中間層の重みを共有するため、追加の重みを保存せずに処理を深くできる。ただし、48層という数値は1トークンの生成に必要な処理の深さを表しており、48層分の独立した重みを持つわけではない。

また、Inkling 2 Miniは、複数の専門家ネットワークから必要なものだけを選択するMixture of Experts(MoE)方式を採用している。各層には128個の専門家が用意され、トークンごとに8個を選んで処理する。総パラメーター数は264億だが、1トークンあたりに有効となるパラメーターは34億に抑えられている。中間12層を1回追加で処理するごとに約10億パラメーター分の計算が加わるため、3周する標準構成では、再利用分を含めた延べ計算量が54億パラメーター相当になる。

開発チームは、どの層を繰り返すかによって性能が変わることも確認している。中間12層を反復する構成と末尾12層を反復する構成を比較したところ、28種類の評価のうち27種類で、中間層を繰り返す方が精度の改善幅が大きかった。

さらに、専門家の数を削減する前の段階で反復の有無を比較したところ、反復しないモデルは学習時の計算量が7.5%少なかった。しかし、エージェントの実行記録を用いた51万2,000トークンの評価では、同じ損失に到達するために必要な推論時の計算量が140%多かったという。反復による計算の追加が、推論効率の改善につながる可能性を示す結果だ。

公開版の規模に収めるため、同社は学習途中で各層の専門家を384個から128個に削減した。その後、大型の社内モデルを教師として1兆トークンを使った追加学習を実施し、教師あり微調整を経て、計2.2兆トークン、2,000ステップの強化学習を行っている。最終的な性能には反復構造だけでなく、こうした学習方法も影響している。

コード修正ではQwenを上回る一方、業務自動化では逆転

Inkling 2 Miniの総合性能は、Artificial Analysisの「AA Index v5.0」で20.1となり、同規模のQwen3.8-27Bと並んだ。ただし、個別のベンチマークでは得意分野が異なる。コード修正を評価するDeepSWEではInkling 2 Miniが6.0ポイント上回った一方、業務自動化を評価するAutomationBench-AAではQwen3.8-27Bが6.4ポイント上回った。

Thinking Machines Labが11月20日に公開した主な評価結果は以下の通りだ。

ベンチマーク(評価内容) Inkling 2 Mini Qwen3.8-27B Nemotron 3.5 Super VL
DeepSWE v1.1(コード修正) 48.2% 42.2% 24.7%
SWE-bench Pro v2 Hard(コード修正、51課題) 77.9% 73.8% 44.1%
AutomationBench-AA v1.0.6(業務自動化) 41.8% 48.2% —
BrowseComp(Web検索) 79.0% 61.6% 78.9%
DeepSearchQA(検索・調査) 85.3% 79.7% 77.7%
AA-Omniscience v1.1(外部検索なしの知識評価) −8.6 −6.4 −2.9

DeepSWEの評価では、コード操作エージェントとして「mini-swe-agent v2.4.6」を使用した。また、BrowseCompとDeepSearchQAでは、過去のやり取りを圧縮する処理を適用している。同社によると、評価時の設定はモデルによって異なる。表中の「—」は比較対象外を示し、AA-Omniscienceは正答率ではなく指数で評価される。

コード修正では、総パラメーター数が1,245億のNemotron 3.5 Super VLに対しても、Inkling 2 Miniが高いスコアを記録した。DeepSWEにおけるMuse Glimmerのスコアは4.4%、Gemma 4 31Bは0.3%で、Inkling 2 Miniの48.2%との差は大きい。

一方、端末操作を評価するTerminal Benchでは、コード修正と同じ優位性は見られなかった。Terminal Bench v4.0ではInkling 2 MiniとQwen3.8-27Bがともに5.6%、v2.1ではInkling 2 Miniが71.6%、Qwen3.8-27Bが73.0%だった。ソフトウェアのコードを書き換える能力と、端末を操作して作業を完了する能力では、評価結果が異なっている。

検索関連のベンチマークでも同様だ。BrowseCompではInkling 2 Miniが79.0%を記録し、Qwen3.8-27Bの61.6%を大きく上回ったが、Nemotron 3.5 Super VLの78.9%とはほぼ同等だった。一方、外部検索を使わずにモデル内部の知識を評価するAA-Omniscienceでは、Nemotronが最も高く、Inkling 2 MiniはQwenにも及ばなかった。外部情報を調べて回答する能力と、学習済みの知識だけで回答する能力には違いがある。

複雑な指示や長時間の対話も課題として残る。複数ターンの対話を評価するMultiChallengeでは50.0%、複数の条件を同時に守る能力を測るComplexConstraints v1.1では33.4%だった。後者はMuse Glimmerの35.6%を下回っている。開発元も複雑な指示への対応や複数ターンの対話を弱点として挙げており、モデルカードには、コードのデバッグ中に同じ確認作業を繰り返す場合があると記載されている。

AD

メモリ32GB以上のMacで動作、実演には48GBのMacBook Proを使用

Inkling 2 Miniは画像とテキストを入力として受け取り、テキストを生成するマルチモーダルモデルだ。配布されるモデルの重みは約20GBで、24層のうち20層では専門家の重みを4ビットのNVFP4形式、最後の4層では8ビットのMXFP8形式で保存している。開発元は学習時の専門家層の計算にも、これらの低精度形式を使用した。

公式モデルカードでは、動作環境としてメモリ32GB以上のAppleシリコン搭載Macと、NVIDIA DGX Spark 1台を挙げている。MacではOllamaを使って実行でき、その他のGPUについては32GB以上のビデオメモリを推奨している。

開発元が実際に行ったデモでは、M5 Proと48GBのメモリを搭載したMacBook Proを使用した。インターネットに接続しない機内モードでモデルを実行し、数分間で、遊べるフライトシミュレーターを作成している。

公称の最大コンテキスト長は100万トークンだ。ただし、約20GBのモデル重みに加え、推論時には中間データやKVキャッシュなどを保存するメモリも必要になる。したがって、メモリ32GBという動作条件と、100万トークンの入力を同じ環境で扱えるかどうかは分けて考える必要がある。

また、同社が公開した生成速度のグラフは、実機で測定した値ではなく理論上の上限を示している。メモリ帯域を614GB/s、モデルの重みをBF16形式とし、同時に1件の入力を処理する条件で計算したものだ。中間層を繰り返す際に重みを読み直す分も考慮しているが、実際のモデルはNVFP4やMXFP8を使用しているため、端末上の生成速度を直接表す数値ではない。

消費電力を考慮した評価も紹介されている。Thinking Machines Labが取り上げたスタンフォード大学の研究チームによる比較では、128GBのDGX Sparkを使い、一定の性能を得るために必要な問題あたりのエネルギーを考慮した「intelligence per joule」を測定している。

この指標では、Inkling 2 Miniは推論時の計算量を抑えたMXFP8設定で0.703を記録した。比較対象のQwen3.6-35B-A3BはNVFP4形式で0.430、Gemma-4-26B-A4BはNVFP4形式で0.159、Qwen3.5-27BはINT4形式で0.036だった。いずれも同じDGX Sparkで評価しているが、モデルごとに使用した数値形式が異なる点に注意が必要だ。

中間層の反復で推論文が半分以下に短縮

公開された標準版Inkling 2 Miniは中間層を3回繰り返す固定構成だが、同社は周回数を変更できる研究用モデル「TML-d24-varloop-research」も公開した。このモデルは3周を中心として1〜5周の設定で学習されており、同じモデルの周回数だけを変えて性能を比較できる。

研究チームは、科学分野の難問を集めた「GPQA Diamond」を使い、回答に至るまでに生成する推論文の長さを調べた。比較対象は1〜5周のすべての設定で正解した問題に限定しているため、同じ問題を解く際に必要な出力トークン数の違いを評価できる。

結果は以下の通りだった。

中間層の周回数 推論文の平均トークン数
1周 3,703
3周 1,731
5周 1,661

1周から3周に増やすと、推論文の平均長は3,703トークンから1,731トークンへと約53%短縮された。一方、3周から5周に増やしても、短縮幅は70トークンにとどまった。中間層の反復によって、同じ正答に到達するまでに生成する文章は短くなるものの、3周を超えると改善幅は小さくなっている。

推論文を出力せずに回答させる試験でも、3周付近で性能の伸びが鈍化した。「Think Fast」の一部では、人間が解くのに必要な時間を問題の難しさの目安とし、モデルの正答率が50%に達する問題の難易度を調べている。1周では人間が16秒で解ける程度の問題までだったが、3周では37秒相当の問題まで対応できた。その後は周回数を増やしても、性能はおおむね横ばいだったという。

研究版では、多段階の推論や長い文章から情報を抽出する課題で、周回数を増やす効果が確認された。一方、外部検索を使用しない知識問題では、周回数を変えても性能はほとんど変化しなかった。中間層の反復が効果を発揮するかどうかは、課題の性質によって異なるようだ。

ただし、中間層を繰り返すほど1トークンの生成に必要な計算は増えるため、推論文が短くなっても、回答を出し終えるまでの時間が必ず短縮されるとは限らない。今回の研究版で確認された推論文の短縮効果が実際の応答速度にどう影響するかは、実機での測定が必要だ。特にAppleシリコン搭載Macでの利用を考える場合、コード修正や検索などの課題ごとに、正答率と処理完了までの時間を合わせて評価することが重要になる。