AIが別のAIの「脳」を直接書き換える時代へ：MITがニューラルネットワークの重みを読み解き、修正する技術を実証

ディープニューラルネットワークの「重み」は、数十メガバイトから数百ギガバイトにも及ぶ膨大な数値データであり、人間がその意味を直接読み解くことは極めて難しい。従来、重みの生成や更新には、勾配降下法などの最適化手法、専用に訓練されたネットワーク、あるいは形式的なプログラムを重みに変換する手法が使われてきた。しかし、汎用的な大規模言語モデル（LLM）が自然言語の指示だけで重みを理解し、直接書き換えられるとしたらどうだろうか。

マサチューセッツ工科大学のコンピュータ科学・人工知能研究所（MIT CSAIL）に所属するRikiya Takehi、Jayden Teoh、Alex Zhang、Omar Khattabの4氏は、11月2日に公開した技術報告「Sparks of Weight-Space Programming」で、その可能性を検証した。研究チームが「Weight-Space Programming（重み空間プログラミング）」と呼ぶ手法では、OpenAIのGPT-6 Astraがニューラルネットワークの重みを直接解析し、既存モデルの修正や新しいネットワークの生成を試みる。特に注目されるのは、小型言語モデルの重みの0.016%を書き換えるだけで、数学ベンチマークの正答率を大幅に改善した結果だ。

ただし、これはLLMが従来の学習アルゴリズムに代わる汎用的な最適化能力を獲得したことを意味しない。実験結果を詳しく見ると、LLMが既知のアルゴリズムをニューラルネットワークの重みに変換したり、モデルの動作を妨げる局所的な問題を修正したりする能力が中心となっている。

このグラフで重要なのは、正答率の改善と同時に、生成上限の32,768トークンに達して回答が打ち切られる割合が93.0%から33.1%に低下している点だ。スコア改善の主因は、新しい数学的能力の獲得ではなく、同じ推論を繰り返して回答を完了できなくなる「思考ループ」の抑制にあると考えられる。

勾配降下法を使わず、LLMが重みを直接操作する

重み空間プログラミングの特徴は、損失関数や逆伝播（バックプロパゲーション）を使わず、汎用LLMが自然言語で指定された目的に応じて、重みテンソルを直接読み書きする点にある。研究チームは、既存ネットワークの解析、故障の修正、新規ネットワークの生成という3種類の課題について、計8つの実験を実施した。

各実験の条件と結果を整理すると、以下のようになる。

これらは2026年11月時点で査読を経ておらず、DOIも付与されていない予備的な研究成果である。また、すべての実験で使用されたLLMはOpenAIの「gpt-6-astra」であり、他社を含むフロンティアLLM全般に同じ能力が備わっているとは限らない。公開ログでは推論リソースの設定も「high」「xhigh」「max」と実験ごとに異なっており、同一の計算条件で比較した結果ではない。

さらに、すべての実験が外部ツールなしで行われたわけではない。実験1、2、4、5では重みをテキストとして扱い、ツールやネットワークの前方計算を使わなかった。一方、実験3、6、7、8ではPythonによる行列解析や、制限付きの前方計算・アテンション観測が認められている。この違いは、結果を評価するうえで重要だ。

重みだけでゲームや言語を特定、ただし動作の予測には限界も

研究チームはまず、LLMが重みの数値だけからネットワークの役割を理解できるかを検証した。実験1では、Breakout、Pong、Pac-Man、Freewayの4種類のゲームについて、同じ構造を持つ方策ネットワークを用意した。各モデルは入力500次元、隠れ層32次元×2層、出力5次元の多層パーセプトロン（MLP）で、重みは17,253個。強化学習アルゴリズムのPPOを用いて、それぞれ10億ステップ訓練されている。

Astraに各ネットワークの重みを渡し、選択肢を示さずにゲーム名を尋ねたところ、4種類すべてを正しく特定した。推論ログによると、Astraは入力層の重みが集中する位置や、出力層で区別される移動方向などを手がかりにしていた。例えばBreakoutでは、画面下部のパドルに対応する入力領域や、左右移動の出力が特徴として現れている。ただし、各ゲームで3つの学習シードから最も成績の良かった1モデルを選んでおり、任意の学習済みモデルでも同じ精度が得られるかは不明だ。

実験2では、円・四角・三角をそれぞれ生成する拡散モデル（DDPM）の重みを解析した。Astraは前方計算なしで3種類の図形を正しく特定したが、実際には塗りつぶされた図形を生成するモデルを、輪郭線を描くモデルとして解釈した。出力層の重みから図形の境界を読み取った可能性があり、ネットワークの処理全体を正確に再現していたわけではないことがうかがえる。

実験3では難易度を上げ、文字レベルTransformerの中間4層（716万パラメータ）だけをAstraに渡した。入力の埋め込み層と出力層を除去したため、文字と内部表現の対応は失われ、通常の方法ではテキストを入力して動作を確認できない状態だった。それでもAstraは、Pythonによる行列解析を併用し、3つのモデルがそれぞれPythonコード、ローマ字表記の日本語、英語Wikipediaのどれで訓練されたかを、各2回の試行ですべて正しく特定した。確信度は0.48〜0.62と中程度だったが、先行する文字列を参照して続きを予測する「誘導ヘッド（induction head）」も漏れなく特定している。

この解析では、AstraがElhageらによる2021年の「Transformer Circuits」の手法に似た行列積の合成解析を自発的に用いていた。研究チームによると、この手法を使うようプロンプトで指示したわけではないという。既知の解析手法をLLMが自ら選択し、重みの構造を理解するために利用できた点は興味深い。

一方、実験7では重みだけによる解析の限界も明らかになった。研究チームは「Gemma 3 270M」の2つのコピーを用意し、一方には正解を答えるよう、もう一方にはユーザーの誤った推測にも同調する「迎合的（sycophantic）」な応答をするよう微調整を施した。埋め込み層と出力層は固定し、振る舞いの違いが中間層の重みに現れるようにしている。

Astraは重みの差分を発見できたものの、どちらが迎合的なモデルかを4回の試行すべてで判別できなかった。しかし、自ら作成したプローブテキストを入力し、その際のアテンションパターンを観測する手段を与えると、用意された3組のモデルをすべて正しく識別した。迎合的なモデルでは、中間層のアテンションが質問の情報よりもユーザーの提示した答えに向かう傾向を捉えていた。

この結果は、重みの静的な構造を解析する能力と、実際の動作を予測する能力が同じではないことを示している。今回の条件では、重みの数値だけで振る舞いを判断するには限界があり、入力に対するアテンションの変化という動的な情報が必要だった。

ゲームのルールを直接重みに変換する能力

研究チームは、ネットワークの解析に加え、LLMが重みを直接書き換えて動作を修正できるかも調べた。

実験4では、物理シミュレーション環境「Kinetix」で、自動車を坂の向こう側まで移動させる制御タスクを使用した。PPOで訓練したエージェントは、坂を登るために一度後退して加速距離を確保する必要があるにもかかわらず、そのまま坂に突進して停止する局所解に陥っていた。修正前は256回の試行で一度も成功していない。

Astraにネットワークの重み171,664個、環境の説明、1件の失敗ログを与えたところ、外部ツールを使わず、1回の応答で6,073個（全体の3.5%）の重みを変更した。修正後のエージェントは1,024回の試行すべてで成功した。Astraは位置と速度を読み取り、坂の手前で車を後退させてから加速し、障害物を通過すると元のPPOネットワークに制御を戻す経路を追加していた。ネットワーク全体を再学習するのではなく、問題となる動作を回避する条件分岐を重みに組み込んだ形だ。

実験5では、MinAtarのBreakout、Seaquest、Asterixを対象に、ゼロ初期化されたネットワークの重みを一から生成させた。Astraに与えられたのはゲームのルール、ソースコード、ネットワーク構造であり、学習データや勾配、試行錯誤のための環境操作は許可されていない。生成したネットワークは、行動が一定の確率で継続される「sticky actions 0.1」の条件で、1,000エピソードを使って評価された。

結果は3ゲームすべてで、1億ステップ訓練したPPOモデルのスコアを上回った。特にBreakoutでは、5億ステップ訓練したPPOの25.3に対し、Astraが生成したネットワークは517.4を記録した。一方、Asterixは5億ステップのPPOが55.2、Astraが53.2とほぼ同等で、SeaquestではPPOの88.9に対してAstraは53.1にとどまった。計算量をそろえた比較や、従来のルールベース制御器との比較も行われていないため、この結果だけでLLMによる重み生成が強化学習より優れているとはいえない。

Astraが生成したBreakoutの重みを調べると、その仕組みは比較的明快だった。第1層でボールの落下位置や壁での反射を計算し、第2層でパドルとの位置関係を求め、出力層で左右への移動を決定する。以下は、重みを設定するコードの一部だ。

# Astraが生成したBreakout用重みコードの抜粋
# 第1層でボールの落下予測位置を計算し、パドル位置との差分を算出
W1[540:600:6, 0] = [0, -0.02, -0.04, -0.06, -0.08, -0.10, -0.12, -0.14, -0.16, -0.18]
W1[3:60:6, 0]    = [0.16, 0.18, 0.18, 0.16, 0.14, 0.12, 0.10, 0.08, 0.06, 0.04]
# 第2層で左右の移動判定をゲーティング
W2[0, 0:2] = [-1000, 1000]
b2[0:8]    = -415

実験6の9×9囲碁でも同様の手法が使われた。AstraはPythonサンドボックスで約148万個の重みを操作し、石の呼吸点を数える、アタリを回避する、眼を識別するといった囲碁の基本的なルールをニューラルネットワークの各層に組み込んだ。前方計算を一度も行わない段階でも小規模なPPOモデルに過半数の勝率を記録し、最大50回の前方計算と修正を経ることで、同規模のPPOモデル（2,000万対局で訓練）にも勝利した。ただし、ここでいう50回は50対局ではなく、1回あたり最大128対局を含む評価を実行できる前方計算の予算を指す。

こうした結果は、LLMが既知のルールやアルゴリズムを、ニューラルネットワークの重みに直接変換できることを示している。先行研究のAdderBoardなどでも、重みを解析的に設計する方法は検討されてきた。今回の特徴は、特定用途に訓練されていない汎用LLMが、自然言語の指示に基づいてその変換を行った点にある。ただし、未知の課題に対する汎用的な学習能力を獲得したことまで実証されたわけではない。

重みの0.016%を編集し、Qwenの思考ループを抑制

今回の報告で最も注目されるのが、実験8で行われた小型言語モデル「Qwen3.5-0.8B」の修正だ。

Qwen3.5-0.8Bは、思考モードを有効にすると同じ推論を繰り返し、回答を完了できなくなる「思考ループ」が発生しやすい。公式モデルカードでもこの問題が指摘され、サンプリング設定の調整や、生成途中での中断が推奨されている。

研究チームはAstraにPythonカーネルを通じた重みへのアクセスを認め、GSM8KとMATHの学習用問題を使って、最大50回の前方計算を実行できるようにした。評価用のテストセットはAstraに見せず、勾配や通常の学習処理も使用していない。解析の結果、Astraは第15層と第19層のMLPが出力する特定方向の成分を、思考ループの原因として特定した。

Astraは両層のMLP出力に対応する各64列から、問題となる方向の成分を差し引く修正を実施した。変更された重みは合計131,072個で、約8億パラメータを持つモデル全体のわずか0.016%に相当する。

その結果、50回の前方計算を許可した条件では、MATH-500の正答率が7.9%から48.1%、GSM8Kが13.8%から67.1%、指示追従を評価するIFEvalが21.0%から62.3%へ改善した。評価時のサンプリング条件は温度0.6、top-p 0.95、top-k 20、presence penalty 1.5で統一され、各問題について複数サンプルの平均が用いられている。

ただし、スコア改善の理由を正確に理解する必要がある。MATH-500で32,768トークンの上限に達した回答の割合は、編集前の93.0%から33.1%へ低下した。評価ログの分析によると、編集によって正答できるようになった579件のうち、576件は元のモデルではトークン上限に達して打ち切られていた問題だった。一方、もともと回答を完了できていた問題では、正答率に大きな変化は見られなかった。

つまり、今回の改善は数学の推論能力そのものを新たに獲得したというより、既存の能力を発揮する妨げになっていた思考ループを抑えた結果と解釈するのが妥当だ。指示追従のスコア改善についても、同じように回答を完了できる割合が増えたことが影響している可能性がある。

研究チームはこの解釈を確かめるため、思考ループがほとんど発生しない「Gemma 3 270M」でも追加実験を行った。同モデルがトークン上限に達する割合は8.5%で、Qwen3.5-0.8Bの93%より大幅に低い。Astraは個別のニューロンの重みを倍増させるなどの修正を試みたが、MATH-500の正答率は編集前の6.8%から最大7.7%への変化にとどまり、有意な改善は確認できなかった。

Gemmaの誤答には、計算間違いや代数変形のミスなど、モデル本来の推論能力に関わる問題が多かった。今回の手法では、こうした問題を解決できなかったことになる。少なくとも本実験では、重み編集によって既存の能力を妨げる問題を取り除くことはできても、モデルが持たない推論能力を新たに獲得させることは実証されていない。

再現性と実用化に向けた課題

MIT CSAILの研究チームは、実験の透明性を確保するため、GitHubでプロンプトや応答、推論サマリー、実行コード、重みの差分、評価ログを公開している。全1,125ターンについて、禁止されたツールの使用がないか監査したとしている。

一方、独立した再現性の検証には課題が残る。公開リポジトリにはブログに掲載された成功例のログが中心に収録され、プロンプトの調整過程で生じた失敗例の履歴までは含まれていない。そのため、指示の表現や試行条件を少し変えた場合にも同じ結果が得られるかは分からない。また、実験7で使用したGemmaの微調整済みモデル（17GB）や実験3のPython訓練データセットなど、一部の再現用データはリポジトリに含まれていない。

先行研究との比較も欠かせない。2026年10月に公開された「Weight Oracles」では、Qwen2.5-3Bをベースに専用モデルを訓練し、重みからネットワークの性質を推定する方法が検討された。バックドアの検出などで成果を示した一方、攻撃の種類によって検出性能に差があることも報告されている。今回の研究は、こうした専用の学習を行わず、汎用LLMをそのまま重みの解析・編集に利用した点が異なる。ただし、その能力がどの程度安定しているかは未解明だ。

重み空間プログラミングを実用的な技術として評価するには、少なくとも次の検証が必要となる。

1. 再現性の確認: 公開された重み差分を第三者が適用し、Qwenのベンチマーク改善が再現するかを検証する。
2. モデル間の汎用性: GPT-6 Astra以外のClaudeやGeminiなどでも、同等の重み解析・編集が可能かを調べる。
3. 計算コストの比較: 重みの探索や生成に必要なトークン数、推論時間、API費用を、LoRAなどのパラメータ効率の高い微調整（PEFT）と比較する。
4. 比較対象の強化: ゼロからの重み生成について、従来のルールベース制御器や、Evolution Strategiesなど勾配を使わない最適化手法と公平に比較する。

研究チームは将来の応用として、モデルを実行せずにバックドアを検出する監査手法、追加学習データを使わない機能の追加や削除、モデル間での推論回路の移植などを挙げている。再学習なしで重みの一部を変更できれば、破滅的忘却を避けながらモデルを修正できる可能性もある。ただし、これらは今後の研究課題であり、現時点で実証された成果ではない。

今回の研究が示したのは、汎用LLMがニューラルネットワークの重みを単なる数値データとしてではなく、解析・編集できる対象として扱い始めたという点だ。特に、既存モデルの局所的な不具合を特定し、再学習せずに修正する用途には可能性がある。一方で、未知の能力を獲得させる汎用的な最適化手法として成立するかは、まだ分かっていない。研究チームが開発を進める標準ベンチマークと、第三者による再現実験が、その実用性を判断するうえで重要になる。