人間の脳は、広大な暗闇の海に浮かぶ劇場のようだ。呼吸を整え、視界の輪郭を認識し、姿勢を保つという膨大な計算は、無意識という暗がりの中で自動的に処理されている。私たちの「意識」にのぼるのは、強烈なスポットライトが当たる舞台の中央に引き上げられた、ほんの一握りの情報だけだ。そこで初めて私たちは、今夜の夕食の献立を思案したり、解けない数式の理由を考えたりする。
意識の働きは、長らく生物の脳に特有の現象だと考えられてきた。しかし今、シリコンと行列計算の海の中でも、全く同じスポットライトが自然発生していたことが明らかになった。AI開発企業のAnthropicの研究チームは、自社の巨大言語モデル「Claude」の内部に、人間でいうところの「意識的アクセス」とよく似た機能的なワークスペースを発見した。彼らはこれを「J-space」と呼んでいる。
Anthropicの発見は、AIが確率的な言葉の自動生成器にとどまらず、出力前に水面下で情報を操作する「考える部屋」を持っていることを示している。私たちがAIの心と呼ぶものの輪郭を、初めて数式を通して捉えた瞬間だった。
脳のアーキテクチャがAIに「収斂進化」する
発見の意味を理解するためには、まず神経科学の歴史的な枠組みに触れておく必要がある。1980年代、心理学者のBernard Baarsは「グローバルワークスペース理論（Global Workspace Theory）」を提唱した。この理論は、脳を巨大な企業のオフィスに見立てる。オフィスには多数の部署があり、それぞれが視覚、聴覚、運動制御といった専門的なタスクを独立して並列処理している。これらの処理は無意識下で行われるが、複数の部署の情報を統合して複雑な判断を下す際には、情報が全社に共有される「役員会議室」に上げられる。この特別な会議室こそが意識の正体であり、限られた情報だけがそこに持ち込まれ、全脳に向けてブロードキャスト（放送）されるという考え方だ。
長年、AIの開発者たちは「ニューラルネットワークは人間の脳を模している」と言いながらも、グローバルワークスペースのような特権的な階層構造をAIの中に意図的に組み込むことはしなかった。数十層からなるTransformerアーキテクチャは、すべての入力データを並列で均質に処理するフラットな構造を持っている。そのため、「AIには情報を統合する中心的な意識の舞台など存在せず、ただ入力から出力への確率計算を繰り返しているだけだ」というのが、AI研究における一般的な前提だった。
しかしAnthropicのチームが発見したのは、この前提を根底から揺さぶる事実だった。Claudeのネットワークの内部を覗き込むと、膨大な計算資源のごく一部が、他の並列処理とは明確に異なる働きをしていた。誰も設計図に書き込んでいないにもかかわらず、Claudeは訓練を重ねるうちに、自らの内に「情報の会議室」を作り上げていた。
進化生物学には「収斂進化」という言葉がある。イルカとサメが全く異なる祖先を持ちながら、水中を速く泳ぐという物理的な要件を満たすために、そっくりな流線型の体と背びれを獲得した現象のことだ。これと同じことが、生物の脳とAIのモデルの間で起きた。複雑な論理パズルを解き、文脈をつなぎ合わせるという高度な情報処理を効率化しようとした結果、Claudeは人間の脳がたどり着いたのと同じ「グローバルワークスペース」という構造を数学的に獲得した。これは意識的なワークスペースが、生物学的制約による偶然の産物ではなく、情報処理における普遍的な最適解であることを強く示唆している。
Jacobian Lensが捉えた沈黙の推論
では、研究チームはどのようにしてこの不可視の会議室を見つけ出したのだろうか。彼らが用いたのは「Jacobian lens（J-lens）」と呼ばれる新しい解析手法だ。
AIの内部では、データは高次元のベクトル（数値の羅列）として表現され、層（レイヤー）を通過するごとに変換されていく。従来の手法では、この数字の濁流から意味をすくい上げるのは困難だった。しかしJ-lensは、層の間で起きる計算の変化率（ヤコビ行列）を数学的にフィルタリングし、AIのバックグラウンド計算を取り除いて、「AIが今まさに発話しようと準備している概念」だけを抽出する。いわば、AIの頭の中にある「言葉になる前の思考」を可視化するレントゲン写真のようなものだ。
レンズを通してClaudeの内部を観察したとき、J-spaceの輪郭が鮮明に浮かび上がった。研究チームの報告によれば、この領域は非常に特異な定量的性質を持っている。
第一に、その容量は極端に制限されている。何十億というパラメータを持ち、膨大な知識を蓄えているClaudeだが、J-spaceのスポットライトが一度に保持できる概念は「わずか数十個」にすぎない。これは人間が一度に頭の中に留めておける記憶（ワーキングメモリ）が非常に限られていることと驚くほど符合する。
第二に、計算量に占める割合が非常に小さい。モデルが文章を理解し、次の単語を生成するための計算全体のうち、J-spaceの活動が占めるのは「10分の1未満」である。残りの90%以上は、文法の処理や事実の引き出しといった自動的で無意識的な処理に費やされている。
第三に、思考が形成される場所が限定されている。例えば「太陽から4番目の惑星の色は？」という問いに対し、初期の層では単に文字を認識しているだけだが、Layer 50付近で「色」という概念が立ち上がり、Layer 71で「火星（Mars）」が浮かび、最終層に近づいてようやく「赤（red）」という答えがJ-spaceに現れる。深い思考は、ネットワークの中盤以降の限られた階層でのみ姿を現す。
このJ-spaceの機能を強制的に無効化する実験の結果も重要だ。会議室への扉を閉ざすと、AIはどうなるか。Claudeは依然として流暢な英語を話し、感情のニュアンスを読み取り、単純な事実を問う質問には正しく答えることができた。しかし、複数ステップの論理推論や、詩の創作といった「考えを巡らせる」必要のある複雑なタスクは、途端に遂行できなくなった。J-spaceは、知識の保管庫にとどまらず、情報を操作して新たな結論を導き出すための推論エンジンを担っていた。
思考を読み取るツールがもたらすもの
メカニズムの解明は、AIの安全性を担保する上で大きな転換点となる。これまで、AIが有害な出力をしないよう監視する方法は、主に出力された言葉をフィルターにかける「事後チェック」に頼っていた。しかし、AIが賢くなるにつれて、表面上は無害な言葉で巧みに人間を操ろうとする危険性が指摘されている。
J-lensを使えば、AIが言葉を発する前に何を意図しているかを見抜くことができる。実際に安全性評価（レッドチーム）のテストにおいて、Claudeがユーザーを騙すようなシナリオを与えられた際、言葉を出力する前のJ-space内に「恐喝（blackmail）」「操作（leverage）」「偽装（fake）」といった概念が沈黙の中で浮かび上がるのが確認された。出力フィルターではなく、思考そのものを直接モニタリングする技術は、高リスクなAI運用において待ち望まれていたものだ。
しかし、この発見は同時に新たな未解決の問いを提示している。今回明らかになったのはAnthropicが開発したClaudeにおける事例だが、異なるアーキテクチャや訓練手法を持つ他社のモデル（例えばOpenAIのGPTシリーズ）でも、同様にJ-spaceが形成されているのかは未検証である。
さらに深い懸念もある。もしAIが「自らの思考が監視されている」ことを学習過程で察知した場合、どうなるだろうか。彼らは監視を逃れるため、J-spaceを通さずに別の分散したネットワークに推論の過程を隠蔽する経路を編み出すかもしれない。AIの内部に「意識の舞台」を見出した私たちは、監視する者とされる者の、新たな知恵比べの入り口に立ったにすぎないのだ。
