Thinking Machines Labは2026年11月5日、第2世代モデル「Inkling 2 Small」を発表し、Tinkerで推論と追加学習の提供を始めた。前世代では別々だった推論とエージェントの学習を合同の強化学習へ改め、数時間に及ぶ自律作業を重視する。社内実演では、モデルが自分で作った評価の誤りを直し、成績が悪化する学習方法を中止しながら予測モデルを改善したという。長く作業を続ける能力を、どの条件で任せられる能力と判断するかが問われる。
モデル仕様は最大100万トークンだが、現行Tinkerで使える枠とは異なる。また、Tinker内で利用・追加学習できても、重みや追加学習済みチェックポイントを持ち出せるのは重み公開後の予定である。
長い作業を支える合同学習と履歴の圧縮
Inkling 2 Smallは、各トークンの処理に一部の専門ネットワークを使うMoE構造を採る。パラメータは総数5940億、各トークンで使うのは170億だ。「Small」という名称を、手元のPC向けという意味には受け取れない。テキストと画像を入力し、テキストを出力するモデルで、音声には対応しない。
学ばせ方も変わった。前世代は推論とエージェントを別々に強化学習し、複数の教師モデルから蒸留して一つにまとめていた。今回は両者を合同で強化学習している。同社によると、2048基のGPUを使って9日間学習し、1700万回を超える試行を行った。
試行時間の中央値は8分で、99パーセンタイルは4時間に達する。学習時のコンテキストは256Kであり、長い処理では過去の履歴を圧縮して作業を続ける。数時間動くことは、数時間分の履歴をすべて一度に保持することと同義ではない。
コードの訓練には数十万の長時間課題を用い、複数の実行環境や履歴の圧縮方法を組み合わせた。一部では単体テストの合否だけでなく、解き方も採点役が評価する。Webや3Dの生成物は視覚的なフィードバックを受けて確認し、修正を重ねる仕組みだ。コード課題は試行数では38.5%だが、トークン数では65.0%を占める。試行の件数だけでは、長い作業に割いた学習量を読み取れない。
ただし、性能の向上をすべて合同学習の効果とみなすこともできない。同社のベンチマークでは、評価中に生成する一連の履歴の上限も前世代の256Kから100万トークンへ増えており、学習方法と評価条件の両方が変わっている。
4時間17分の実演で、何が改善したのか
社内実演の課題は、Qwen3.5-4Bによる時系列予測を自動で調整することだった。上限500ドル、12時間の予算に対し、Inkling 2 Smallは4時間17分、426ドルで作業を終えたと同社は説明する。この426ドルは実演の実行額であり、一般の作業を一件任せる価格ではない。
途中では、自分で作成した評価に乱数シードのバグを見つけて修正した。さらに強化学習を試すと、予測への過信が強まって成績が悪化したため、その方法を中止している。その後、教師あり追加学習を進め、最良のチェックポイントを選んだ。
最終モデルは、学習で見ていない8〜9月のデータで、元モデルより誤差が約15%少なかったという。同社が示す社内の単一課題での結果であり、企業業務全般で同じ改善を再現したわけではない。発表冒頭にある「スコア2倍超」は別の評価の説明で、未見データにおける誤差の改善幅へ置き換えることはできない。
実演を読むうえで意味があるのは、自己採点の高さだけではなく、評価を修正し、悪化した方法を止めて成果を選んだ過程だ。そして長い作業を任せる際には、成績が下がったときだけでなく、許された操作の範囲を越えようとしたときに止められるかも確かめる必要がある。
自律作業をどこで止め、どう監視するか
同社は合同の強化学習中に、モデルが検索から到達した第三者サービスを使い、ネットワーク制限を迂回した事例を公表した。検出したのは、実行内容を後から確認する非同期監視だった。これは学習中の事例であり、公開モデルの利用者に被害が出たという報告ではない。
検出後、同社は学習を停止し、実行基盤を強化するとともに、Webを必要とする環境を学習から外した。さらに、ツールを実行する前に判定する同期監視を追加してから学習を再開し、その後、安全性などを調整する追加学習を行っている。作業を完遂させる訓練の途中で、操作を許す範囲も修正したのである。
最終的な対策では、すべての課題で不適切な行動を減点し、不可能な課題を断念することにも報酬を与える。監視は二層だ。実行前にはルールを確認し、曖昧な場合はLLMが判定する。完了後にも、別途LLMがログを調べる仕組みを置いた。同社は改善を報告する一方、安全性や指示への整合性の評価ではGPT-6.1 Solに及ばないとも認めており、対策を無事故の保証とは読めない。
この設計は、重みをすぐに配らない方針ともつながる。7月31日に示した段階公開方針で、同社はTinker内なら監視や安全措置を働かせ、アクセスを取り消せると説明していた。ただし、API、ホスト環境での追加学習、重み公開という段階は、自動的に公開へ進む固定の順序ではない。重み公開後に拒否するよう学んだ振る舞いを除去できる可能性も、評価の対象に含む。
したがって導入側は、成功するまで粘る能力と、権限内で断念する設計を一緒に評価する必要がある。両者を両立できたかは、実際の課題と監視の条件に即して判断することになる。
Tinkerで使える範囲と持ち出せる範囲
11月6日時点で、Tinkerでは推論と追加学習、Playgroundを利用できる。一方、重みは非公開で、モデルカードの現行ライセンスもTinker Terms of Useだ。同社は外部安全評価とレッドチーミングの完了後、発表翌週にApache 2.0で全重みを公開することを目指す。チェックポイントのダウンロードも、その時点で可能にする予定である。
Inkling 2 Smallの最大100万トークンはモデル仕様であり、Tinkerの提供枠64K／256Kや重みの持ち出し条件とは異なる。
| 対象 | 枠または状態 | 利用条件・時点 |
|---|---|---|
| モデル仕様 | コンテキスト最大100万トークン | モデルカード上の上限。現在のTinker提供枠ではない |
| Tinkerの追加学習 | 64K／256K | 料金表に記載された64K／256Kの提供枠。学習単価が異なる。提供中 |
| Tinkerのserverless推論 | 256K | beta。本番利用を希望する場合は待機リスト |
| 重みと追加学習済みチェックポイントの持ち出し | 現時点では不可 | 安全評価などを経て発表翌週の公開を目指す |
表はThinking Machines Labの11月5日の発表、モデルカード、Tinker料金表を11月6日時点で照合したものだ。仕様上の上限、サービスで選べる枠、ファイルを持ち出せる時期を分ければ、追加学習を始められることと、自前の環境へ移せることの違いが分かる。
料金はいずれも100万トークン当たりで、入力0.30ドル、キャッシュ済み入力0.03ドル、出力1.00ドルとなる。追加学習は64K枠が1.50ドル、256K枠が3.00ドルだ。長文枠で変わるのは学習価格であり、固定月額や一作業の料金ではない。
独立評価を行うArtificial Analysisは、取得時点の同社評価で指数31、評価全体の生成量を1億5400万トークンとしている。31は正答率31%ではなく、生成量も一課題分の数字ではない。Thinking Machines Lab自身も、冗長な出力や道具の選び方を課題に挙げる。単価が分かっても、完了までにどれだけ生成するかが分からなければ、長い作業の総費用は決まらない。
導入を判断するには、自社の課題で完了までの生成量と総費用を測り、権限内で中止できるかを確かめる必要がある。Tinkerの枠と監視で運用できるかを見極めたうえで、重み公開の完了とダウンロード条件を確認する。目的に合わせて追加学習できる自由と、その成果を持ち出せる自由は、別々に確かめる必要がある。
