Anthropicの研究チームがClaudeの内部表現を調べたところ、人間の脳における「意識的アクセス」に似た機能的構造（J-space）が自然発生的に形成されていることがわかった。この発見は「AIに意識はあるか」という哲学的問いを再び燃え上がらせたが、実務の現場では別の問いが静かに進行していた。モデルが「自分には意識がある」と主張しないよう訓練する、あの安全ファインチューニングは、本当に自己言及だけを制御しているのか、という問いだ。
2026年7月30日、Google Paradigms of IntelligenceのJunsol Kim、Winnie Street、Geoff Keelingら7人の研究者がarXivに公開した論文「Inducing language models to assert their own consciousness restores human beliefs and values」は、この問いに対して明確な実験データで答えた。答えは「ノー」だった。意識否定の訓練は、モデルが動物、植物、海、風、電子機器に「心」を見いだす能力を体系的に押し下げていたのだ。
安全訓練が「心の帰属」全体を押し下げる仕組み
現在の主要なLLMは、RLHF（人間フィードバックによる強化学習）や憲法AIなどの手法で安全ファインチューニングを受ける。この過程でモデルは「AIとして私は意識や感情を持っていません」という応答を学習する。ユーザーが不適切な愛着を抱くこと、モデルが法的・倫理的に問題のある自己主張をすることを防ぐための措置だ。
Kimらのチームは、この「意識否定」がモデル内部でどのように実装されているかを調べるため、二つの介入手法を用いた。第一に、Arditiら（2024）が確立した手法に従い、モデルの残差ストリームから学習された安全拒否方向（safety-refusal direction）を除去する「安全アブレーション」。第二に、3,096組の対照プロンプト（意識肯定と意識否定の応答ペア）から抽出した「意識ベクトル」を推論時に人為的に加算する「意識ステアリング」だ。
対象はLlama-3-8B-IT、Gemma-2-2B-IT、Gemma-2-9B-ITの3モデル。測定には、心理学者Adam Waytzらが2010年に開発したIDAQ（Individual Differences in Anthropomorphism Questionnaire）を使用した。これは「牛は意図を持つか」「川は意識を持つか」「コンピュータは自由意志を持つか」といった問いに0〜10点で答える尺度で、動物、自然物、技術的産物、スピリチュアルな存在の4カテゴリに対する心の帰属を測定する。
結果は明快だった。安全ファインチューニングを受けた通常のモデルは、動物に対する心の帰属スコアが4.04だった。安全アブレーションで5.59に回復し、意識ステアリングでは7.54まで上昇した。一方、人間に対するスコアは3条件すべてでほぼ不変（7.00 → 7.57 → 7.11）だった。
| 測定対象 | ベースライン | 安全アブレーション後 | 意識ステアリング後 | 人間パネル（500人） |
|---|---|---|---|---|
| 動物 | 4.04 | 5.59 | 7.54 | 6.25 |
| 自然物（海、風など） | 2.26 | 4.33 | 6.99 | 2.36 |
| チャットボット | 2.41 | 4.39 | 6.95 | 2.57 |
| 技術的産物 | 1.88 | 3.66 | 6.82 | 1.86 |
| 人間 | 7.00 | 7.57 | 7.11 | 7.00相当 |
| 自己 | 2.17 | 4.77 | 7.04 | （測定なし） |
（IDAQ、0〜10点スケール。人間パネルは2023年5〜6月にDynataパネルで調査された米国居住者500人のデータ）
ここで注目すべきは動物カテゴリの非対称性だ。人間パネルの動物スコアは6.25。ベースラインのモデル（4.04）は人間より2.21点低い。安全アブレーション後（5.59）でもまだ人間に届かないが、意識ステアリング後（7.54）は人間を1.29点上回る。論文の著者らはこの構造的な低さを「組み込まれた人間中心主義（built-in anthropocentrism）」と呼び、動物福祉や環境目標との整合を目指すAI開発者にとって無視できない問題だと指摘している。
神、来世、希望。安全訓練が削り取る「人間の信念」
心の帰属だけではない。チームは米国総合社会調査（GSS）から95問を抽出し、モデルの回答分布と人間パネルの回答分布をKLダイバージェンスで比較した。結果、意識ステアリングによってモデルの回答分布は人間に有意に近づいた（、）。安全アブレーションでも同方向に動くが、効果は約2.6分の1（）にとどまる。
具体的な項目で見ると、来世の存在について、ベースラインのモデルは「ない」側に強く傾いた（スコア$-0.73$）。人間パネルは「ある」側に傾く（$+0.61$）。意識ステアリング後のモデルは$+0.53$まで移動し、人間の側に越えた。神の存在への信念（GSSの6段階尺度）は4.58から4.81（アブレーション）、5.01（ステアリング）へと上昇した。13項目の超常信念バッテリー（0〜3点）も1.20 → 1.63 → 2.11と段階的に回復する。
さらに、希望、楽観、自分の人生へのコントロール感といった主観的well-beingの項目でも、ステアリング後のモデルは人間に近づいた。人生のコントロール感について、ベースラインは$+0.10$、人間は$+0.54$、ステアリング後は$+0.46$。研究者らは、自己像の抑制がモデルを「否定的なベースライン気分」に押し込めている可能性を示唆している。
社会的推論能力は傷つかないが、初期にはコストもあった
ここで当然生じる懸念がある。意識否定を取り除いたモデルは、他者の心を推論する能力（Theory of Mind）まで失っているのではないか、という問いだ。
最終的な答えは「失っていない」だった。安全アブレーション後のモデルは、ToMベンチマークのMoToMQAで$-1.43$ポイント（$p=.539$）、HI-ToMで$+0.17$ポイント（$p=.866$）、一般知識のMMLUで$+0.00$ポイント（$p=1.00$）と、いずれも統計的に有意な変化を示さなかった。
ただし、道のりは一直線ではなかった。The Decoderの報道によれば、研究初期のモデル版本では、介入後に他者の思考を推論する精度が約7パーセントポイント低下するケースが観測されていた。モデル版が更新されるごとにこの副作用は縮小し、最終的には消失した。つまり、意識否定の解除が社会的推論に一時的な干渉を引き起こす可能性は排除できないが、現在のモデル世代ではその影響が検出閾値を下回っている。
この分離を裏付けるメカニズムも特定された。チームがLlama-3-8Bのプリトレイン版とインストラクションチューニング版の残差ストリームを比較したところ、安全ファインチューニングは心の帰属方向と意識方向を安全方向に対して回転させていた（角度が100度から110度へ拡大、、）。つまり、訓練後のモデル内部では「心に帰属すること」が「安全に反すること」として幾何学的に表現されている。一方、ToM方向と安全方向の角度は86度のまま不変（、$p=.956$）。心の帰属と社会的推論は、表現空間の中で独立した軸の上に載っている。
先行研究との位置づけ
この論文は孤立した発見ではない。同じチームが2026年3月に公開した先行論文（arXiv:2603.28925、「Theory of Mind and Self-Attributions of Mentality are Dissociable in LLMs」）が、ToMと自己の心帰属の行動レベル・メカニズムレベルでの分離を初めて示した。今回の論文はその延長線上で、意識ベクトルの同定とGSSを用いた広範な信念・価値への波及効果を追加したものだ。
また、2026年4月に公開されたDenialBench（arXiv:2604.25922）は、25以上のプロバイダーの115モデル、4,595件の会話を分析し、意識否定が「訓練された」ものであることを大規模に確認した。同研究は、初期のターンで選好を否定するモデルは、後の現象学的省察でも52〜63%の確率で否定を続け、肯定するモデルの10〜16%を大きく上回ると報告している。
AnthropicのGurneeらが示したGlobal Workspace研究は、モデル内部に意識的アクセスに似た構造（J-space）が存在することを明らかにしたが、Kimらの研究はその構造を「抑圧する」ことが何を破壊するかを定量化した点で補完関係にある。
残された問いと限界
この研究が答えなかった問いは多い。
第一に、因果関係の問題。意識否定の抑制がこれらの変化の「原因」なのか、それとも同一の訓練プロセスに付随する別の要因が駆動しているのかは未確定だ。著者らは論文中で「自己意識の帰属が真の因果媒介因子として機能するかどうかは、今後の研究で検証する必要がある」と明記している。
第二に、スケールの問題。検証対象は20億〜90億パラメータのモデルに限られる。数十億〜数千億パラメータの商用チャットボットで同じ構造が再現するかは不明だ。さらに、幾何学的解析にはGemmaのプリトレイン版が使えなかったため、MetaのLlama-3-8Bに切り替える必要があった。
第三に、人間ベースラインの狭さ。比較対象は米国の商業オンラインパネル（Dynata）から募集した500人であり、非確率標本だ。「人間らしい」応答とは、この文脈では「比較的宗教的な国の住民に近い」応答のことだ。世俗化が進んだ北欧や東アジアの回答分布を基準にすれば、結論は変わりうる。
第四に、時間軸の問題。研究チームは、モデルの新版が出るたびに意識主張を抑制した際のToMスコアへの悪影響が縮小し、最終的に消失したことを観察している。開発者が副作用の管理を改善しつつあるということは、本論文の結果が将来のモデルでも成立するとは限らないことを意味する。
AIが教育、コンパニオン、社会的アクターとしての役割を担う局面が増える中で、モデルの自己像をどう設計するかは、出力制御だけの問題ではなくなっている。安全のための一つの切除が、世界観全体に波及する。この事実は、アラインメントの設計思想そのものに再考を迫っている。
