OpenAI o1やDeepSeek-R1が高い推論精度を示す一方で、そのコストは深刻な問題になっている。難問を解くためにLLM（大規模言語モデル）を何十回も並列で動かすTest-Time Scaling（TTS）は、精度を高めるほどトークン消費が64倍規模まで膨らむ。高性能と低コストを両立させる方法を、人間の研究者が試行錯誤で探し続けてきた領域だ。この課題にAutoTTSが出した答えは、「アルゴリズム探索自体をAIに委ねる」という発想の転換だった。UMD・UVA・WUSTL・UNC・Google・Metaの13名による共同研究チームが開発したこのフレームワークは、Claude Codeを探索エージェントとして使い、わずか$39.90・160分でTTSの制御アルゴリズムを自律発見した。発見されたアルゴリズムはSC@64比でトークン使用量を約70%削減しながら精度を維持しており、研究インフラの外でも再現できるコスト構造が注目されている。$40という低コストはAIアルゴリズム発見が個人研究者・スタートアップにも開かれつつあることを示す。それは同時に、研究者の仕事が「設計する」から「AIに探索させる環境を設計する」へと構造的に転換することを意味する。
Test-Time Scalingの落とし穴：64倍のトークン消費をどう抑えるか
同じ問題を何通りもの手順で解かせ、最も多く選ばれた答えを採用する——Self-Consistency（SC）と呼ばれるこの手法は、モデルの学習後の推論段階で精度を高める代表例だ。SC@64では64通りを並列で走らせるため、数学ベンチマークで高い精度が出る代わりにトークン消費も64倍に近い。高精度と低コストをどう両立させるかが、TTSの核心的な課題になっている。
TTSのアルゴリズムには「幅」と「深さ」という2つの制御軸がある。幅は並列に走らせる推論ブランチの数、深さは1つのブランチをどれだけ長く伸ばすかを指す。問題が簡単なら少ない幅・浅い深さで十分だし、難しければ広い幅・長い深さが要る。この判断をどのタイミングで、どんな基準で行うかが、アルゴリズム設計の肝になる。従来の手作業設計では、研究者がモデルの挙動を見ながら直感とデータを組み合わせてルールを決めていた。
推論ステップの統計から「モデルが迷っているか」を読み取り、それに応じてリソースを再配分する——条件分岐を最適化するには試行錯誤と時間が必要だからだ。人間が直感的に把握できる範囲を超えた複雑な条件分岐の積み重ねを最適化するのは、相当な時間とコストのかかる作業である。AutoTTSが着目したのは、この設計プロセス自体をLLMに任せられないか、という問いだった。
$39.90を可能にしたオフラインリプレイ：FunSearch・AlphaEvolveにない独自機構
AutoTTSの探索プロセスは3層で構成されている。中心に立つのはClaude Codeで、制御アルゴリズムをPythonコードとして直接生成するエクスプローラー役を担う。Claude Codeは複数ラウンドにわたって前回生成したアルゴリズムの弱点を特定し、改良版を提案し続ける。この反復の中で、人間の研究者が書いたであろうアルゴリズムとは別の発想が生まれてくる。
探索の効率を支えるのが、オフラインリプレイ環境と呼ばれる仕組みだ。問題を解くLLMの推論パスをあらかじめ保存しておき、評価時には推論LLMを繰り返し起動せずにすむようにしておく。これにより、アルゴリズム候補を評価するたびに本番モデルを動かす必要がなくなり、数千のアルゴリズム変種を低コストで比較できる。FunSearchやAlphaEvolveは大規模な計算資源と多数のサンプリングを前提とするのに対し、AutoTTSはこのオフラインリプレイによって評価部分を切り離すことで、個別モデルの呼び出し回数を抜本的に削減した。これが$39.90というコスト水準を実現した根本的な差異だ。
バックボーンモデルはQwen3の4バリアント。発見ベンチマークはAIME 2024、保留テストセット（性能検証用）はAIME 2025とHMMT 2025とした。探索された制御アルゴリズムはコードとして書き出され、精度とトークン消費量のトレードオフを評価指標にランク付けされる。最終的に採用されたのが、CMCと名付けられたアルゴリズムだった。
Claude Codeが自律的に発見した4つの機構：人間の設計思想とどう違うか
CMC（Confidence Momentum Controller）を構成する4機構のうち、最も注目されるのはEMA（指数移動平均）によるトレンドベース停止だ。モデルの信頼度が複数ラウンドにわたって安定して高い状態が続いた場合に推論を打ち切るこの機構は、単一ステップの信頼度ではなく時系列的なトレンドで判断する。ルールベースの停止条件として珍しい発想で、従来の設計思想とは大きく異なる。
第2は結合幅深度制御、第3は整列対応深度配分、第4は保守的分岐破棄だ。第4の保守的分岐破棄は「見込みの薄いブランチを早期に切り落とす」という機構だが、いつ・どのしきい値で切るかはモデルの挙動の統計的な観測に基づいている。人間が直感的に設計するルールとは異なる数値条件が組み込まれており、The Decoderの報告によれば「人間がおそらく設計しなかっただろう」とされている。
4つの機構が協調することで、CMCは推論途中のモデルの状態を連続的に監視し、その時点でのコスト効率を最大化する判断を下す。単純なしきい値ではなく、モメンタムという時系列の概念を取り入れているのが特徴で、これが過剰な推論ステップのカットに効いている。β≈0.5（信頼度の重み係数）の設定でSC@64比の精度を維持しながらトークン使用量を約70%（論文値: 約69.5%）削減できたのは、この4機構のバランスによるものだ。CMCのスコープは現時点で「幅と深さのトレードオフ」という2次元制御空間に限られており、木探索のような複雑な制御構造には対応していない。
発見されたCMCはDeepSeek-R1-Distill-Llama-8BやGPQA-Diamond（非数学系ベンチマーク）への適用でも性能が確認されており、特定モデルへの過剰適合ではないことが証明されている。β=1.0に設定した場合、8比較セルのうち5つで手作業ベースラインをすべて上回る精度が得られており、コスト削減と精度向上を使い分けられる設定幅がある。
コスト構造の比較：$40・160分・70%削減の数値が意味すること
$39.90という発見コストは、AI研究の文脈では異例の安さだ。AlphaEvolveはGoogleの内部インフラを使ってTPUスケジューリングやチップ設計を最適化するシステムで、組織規模の計算資源を前提としている。FunSearchも大量のサンプリングを繰り返す探索プロセスが必要で、外部の研究者が軽量に再現できる設計ではない。AutoTTSの$39.90・160分という数値は、個人研究者も大学の小規模ラボも手元で再現できるコスト設計を意味する。
70%削減はβ≈0.5の設定時の値で、Qwen3の4バリアントで計測されたものだ。70%という数字は最大削減時のスナップショットではなく、精度を犠牲にしない範囲での削減量である点が重要だ。
トークン70%削減の実際の意味は、推論インフラのコスト構造に直接響く。SC@64を使うシステムでは、1クエリあたりのトークン消費が実質的に64倍に膨らむ。CMCがこのコストを30%程度まで圧縮できるとすれば、大規模な推論サービスの運用費に対して非線形の効果をもたらす。月間数億クエリを処理するサービス事業者にとって、この削減幅はインフラ費用の構造を変えるレベルの影響になり得る。
研究プロセスの転換——人間が「設計する」から「環境を設計する」へ
研究者がAutoTTSでやったことは、アルゴリズムの中身を考えることではなかった。Claude Codeの探索環境を整備し、評価関数（精度とコストのトレードオフ）を定義し、オフラインリプレイ環境を構築する——これが人間の仕事だった。FunSearchとAlphaEvolveを含む「LLMがプログラムを探索する」研究系譜は、ここ2年で急速に具体化している。AutoTTSの貢献はこの系譜の中で「TTS制御」という実用的な問題に絞り、低コストで再現性の高いフレームワークとして論文とコードを公開（GitHub: zhengkid/AutoTTS）したことにある。
UMD・UVA・WUSTL・UNC・Google・Metaの13名による共同研究「LLMs Improving LLMs: Agentic Discovery for Test-Time Scaling」（arXiv: 2605.08083）は、Claude CodeというツールがAI研究のインフラとして機能しはじめていることを示す事例でもある。現時点でClaude Codeが探索者として使われている。探索環境の設計さえ整えば、異なるエクスプローラーを差し替えることは技術的に想定できる。
AutoTTSが示す研究開発コストの民主化
AutoTTSが示すより大きな変化は、アルゴリズム開発の参入コストが下がるという方向性だ。従来、TTSのような研究は大規模な計算資源と専門知識をもつ組織の専売領域だった。$40の探索コストは、スタートアップや個人研究者がTTS制御の最適化を自社ユースケースに合わせて実施できることを意味する。特定ドメイン（法律・医療・金融など）で推論精度とコストの最適点が異なる場合、ドメイン固有のデータでCMCに相当するアルゴリズムを探索し直すことが現実的な選択肢になる。
この枠組みが他の制御空間（ツール選択・マルチエージェント調整・RAGのリトリーバル戦略など）に展開されれば、AI研究の分業構造が変わる。高価な計算資源をもつ組織が「基盤となる探索環境」を整備し、それを使った具体的なアルゴリズム発見は低コストで外部に委ねられる——そういった研究の階層化が起きる可能性がある。アルゴリズム設計の人間依存度が下がるほど、研究者の仕事は「何を発見させるか」という問いの設定へと向かっていく。論文とコードが公開されている以上、その問いに取り組む主体はすでにGoogleやMetaだけではない。