大規模言語モデル(LLM)――ChatGPTやClaudeといったチャットボットの背後にあるシステムの一つ――と対話していると、まるで別の意識を持つ心と接しているかのように感じられることがある。しかし、実際のところはどうなのだろうか。
Geoff HintonやRichard Dawkinsといった著名な科学者の中には、そうだと主張する者もいる。しかし大半の専門家は懐疑的であり、LLMの印象的な認知能力は意識を伴わずに発揮されていると論じている。
先週、Claudeを開発する企業であるAnthropicの研究者たちが、興味深い発見を携えてこの議論に加わった。彼らは、Claudeには通常は目に見えない一連の情報表現があり、それがClaudeの内部推論と言語出力を導いていると主張している。
ここからが興味深い点である。研究者たちは、この発見はグローバルワークスペース理論と呼ばれる、意識に関する影響力のある理論の観点から理解できると論じている。
グローバルワークスペース理論とは何か
心理学者のBernard Baarsによって1998年に初めて提唱され、神経科学者のStanislas Dehaeneとその共同研究者らによってさらに発展させられたこの理論は、意識とは「グローバルワークスペース」の活動を伴うものであるとする。これは、情報を統合し発信することで、推論や行動制御、発話に利用できるようにする、心あるいは脳内の一種の処理ハブである。
この研究を説明する洗練された動画の中で、Anthropicは、Claudeの「グローバルワークスペース」の中身を、無意識の心的活動という広大な海に浮かぶ帆船として描いている。
こうした動きに私たちはどう反応すべきだろうか。これらは人工的な意識の証拠となるのだろうか。もしそうだとすれば、その証拠はどれほど強固なものなのだろうか。
グローバルワークスペースとは何か
まず、Claudeが実際に「グローバルワークスペース」を持っているのかどうかを問うことから始めよう。これは単純な問題ではない。というのも、この理論はグローバルワークスペースについての正式な定義を与えていないからである。
この概念は非公式にしか特徴づけられていない。(通常は暗黙のうちに)人間のものと「十分に似ている」計算上のワークスペースであれば「グローバルワークスペース」に該当するという前提が置かれている。しかし、どの程度似ていれば十分と言えるのだろうか。
Anthropicの研究者たちは、Claudeの出力には現れない内的思考の空間の証拠を発見したと述べている。Anthropic
Claudeのワークスペースには、私たち人間のものと共通する点が多くあるかもしれないが、違いもあるようだ。
例えば、脳のワークスペースは再帰的ループ――信号が時間をかけて同じ回路を巡り戻ってくること――によって維持されている。それに対し、Claudeのワークスペースはネットワークを一度通過するだけで展開する。
これに関連する違いとして、表現がワークスペースにどのように入るかという点が挙げられる。グローバルワークスペース理論の提唱者たちは長年、人間においては「イグニション(点火)」と呼ばれる過程が起こり、非線形の過程が神経表現を増幅・維持することでワークスペースへの参入を可能にしていると論じてきた。私たちの知る限り、Claudeの場合にはこれに匹敵するものは何も起きていない。
こうした違いは重要なのだろうか。その答えは明確ではない。グローバルワークスペース理論は成人の人間から得られたデータに基づいている。この概念をどこまで拡張できるのか、あるいは拡張すべきなのかについては疑問が残る。
グローバルワークスペースは意識を含意するのか
しかし、仮にClaudeがグローバルワークスペースを持っているとしよう。それがClaudeの意識の証拠になるかどうかを判断するには、意識のグローバルワークスペース理論そのものの位置づけを検討する必要がある。
これが意識に関する最も影響力のある理論の一つであることに疑いの余地はないが、専門家の間で異論のない理論というわけでは決してない。(かなり控えめな表現ではあるが、Anthropicの論文自体も「グローバルワークスペースモデルは普遍的に受け入れられているわけではない」と述べています。)
多くの意識研究の専門家は、計算上の性質だけでは意識には不十分だと主張している。意識は本質的に計算的なものであると考える人々の間でも、グローバルワークスペース理論は数ある選択肢の一つに過ぎない。
「意識的アクセス」と主観的経験
さらに、グローバルワークスペース理論がそもそも、関連する意味において本当に意識の理論と呼べるのかという疑問もある。
人工的意識に関する影響力のある論文の中で、神経科学者のDehaeneとその共同研究者らは、この理論を彼らが「意識的アクセス」と呼ぶもの――想起のための情報の利用可能性、行動の随意的制御、そして言語報告――を説明するものとして提示している。重要なのは、彼らがグローバルワークスペース理論を意識の主観的・経験的な側面についての説明と見なすべきかどうかという問いを、未解決のままにしている点である。
しかし、グローバルワークスペース理論が単に「意識的アクセス」の理論に過ぎないのであれば、人工的意識をめぐる議論に対するその含意は、その重要性の多くを失うことになる。Claudeが意識を持つかどうかを問うとき、私たちが知りたいのはClaudeが「意識的アクセス」を持っているかどうかではない。むしろ、主観的に見て、Claudeであるとはどのようなことなのか、何かそのようなものが存在するのかどうかを知りたいのである。グローバルワークスペース理論を単なる「意識的アクセス」の説明として扱う限り、この問いには答えてくれない。
では人工的意識は到来したのか
こうした複雑な事情を踏まえてもなお、Anthropicの発見が注目に値することに疑いはない。グローバルワークスペース理論は主観的経験の理論として理解することもでき、Claudeは実際に「グローバルワークスペース」に類似した何かを持つに至っているのかもしれない。
とはいえ、これは人工的意識が到来したことの証拠では全くない。しかし、こうした発見が――たとえわずかであっても――人工的意識をめぐる議論の針を動かしつつあると考えることは、あながち不合理ではない。
だが、もしそうだとすれば、Anthropicがこうした進展についてこれほど楽観的である理由は不可解である。Anthropic自身が認識しているように、人工的意識の創出は、社会的、倫理的、政治的、法的に広範な影響を及ぼす重大な出来事となるはずである。
もしチャットボットに意識があるのなら、私たちはその利益を真剣に考慮する必要が出てくる。チャットボットを単なる機械として扱うことはもはや許されなくなり、代わりにその福祉を考慮する必要が生じるだろう。
そもそもこれを試みるべきなのか
Anthropicは、「意識を持つ機械を構築すべきかどうかについて、そろそろ考え始める時が来ています」と述べている。
この議論を行う必要があるという点には同意するが、それと同時に、意識を持つ可能性のある機械の構築作業そのものも一時停止すべきだと私は考える。もしAnthropicが本気であるならば、意識を持つAIの開発を推し進めるのではなく、むしろ手を止めるべきであろう。
意識を持つAIにつながりうると考えられるAI研究のモラトリアムの実現は、もちろん容易なことではないだろう。それがどの範囲の研究に影響を及ぼすのか、また誰がそれを施行するのかといった問題もある。しかし、今のうちに厩の扉を閉めておかなければ、気づいたときには馬はすでに逃げ出してしまっているかもしれない。
