AIは本当に「考えている」のだろうか？ この数年、私たちの社会を席巻するこの問いに、Appleの研究チームが冷徹な光を当てた。2025年6月7日に公開された論文「The Illusion of Thinking（思考の幻想）」は、AIが複雑な問題に直面したとき、性能が突如として崖から転落するように崩壊するだけでなく、難問を前にして「考えることを放棄する」かのような不可解な振る舞いを見せることを示し、OpenAIの「o3-mini」やAnthropicの「Claude 3.7 Sonnet」といった最先端のAIが持つ「推論能力」に、これまで見過ごされてきた“根本的な限界”が存在することを、緻密な実験によって暴き出したのだ。
なぜこの研究は重要なのか？ AI評価の「汚染」からの脱却
近年のAI開発競争は、「推論（Reasoning）」を最大のテーマとしてきた。「思考の連鎖（Chain-of-Thought）」などの技術を搭載した大規模推論モデル（LRM: Large Reasoning Models）は、まるで人間のように段階的に思考し、複雑な問題を解決できると期待されてきた。
しかし、その能力を測るための既存のベンチマーク（数学問題集など）には、根深い問題があった。それは「データ汚染」だ。AIが訓練データの中に、ベンチマークの答えや類似問題を見てしまっている可能性を排除できないのだ。これでは、AIが本当に「推論」しているのか、単に「記憶」を頼りに解答しているのか区別がつかない。
この問題に対し、Appleの研究チームは極めて巧妙なアプローチを取った。彼らが用意したのは、「ハノイの塔」や「川渡りパズル」といった、ルールは単純だが組み合わせによって複雑さが無限に増していく4種類の古典的なパズルだ。これらは、AIにとって「初見」であり、かつ問題の難易度を正確にコントロールできる、いわばAIの純粋な論理能力を測るための理想的な「実験室」なのである。
AIの思考力に潜む「3つの領域」と「性能の崖」
この制御された環境で最先端のAIをテストした結果、その能力に関して驚くべき3つの異なる振る舞いの領域（レジーム）が浮かび上がった。
- 第1領域（低複雑度）：「考えすぎ」で効率が悪い
意外なことに、ごく単純な問題においては、思考機能を持つ高度なLRMよりも、通常のLLMの方が高い精度と効率（少ない計算コスト）を示した。LRMは、簡単な問題に対しても不必要な思考を重ねてしまう「過剰思考（Overthinking）」の傾向を見せ、正解を早期に見つけた後も、誤った選択肢を延々と検証し続けることで計算資源を無駄にしていた。これは、簡単な質問なのに考えすぎてドツボにはまる人間の姿にも似ているかもしれない。 - 第2領域（中複雑度）：推論モデルが真価を発揮
問題の複雑さが中程度になると、LRMは本領を発揮し始める。段階的な思考プロセスが有効に働き、通常のLLMを明確に上回る性能を見せた。 - 第3領域（高複雑度）：突然訪れる「性能の崖」
しかし、その優位性は長くは続かない。複雑さがある閾値を超えた途端、LRMも通常モデルも、性能は突如として崖から転落するようにゼロへと崩壊した。十分な計算能力が与えられているにもかかわらず、AIは複雑すぎる問題の前では完全に無力化してしまったのだ。
この「性能の崖」の存在は、AIの能力が線形に向上していくわけではないことを示唆している。
直感に反する「思考の放棄」：AIは難問を前に考えるのをやめる
この研究で最も衝撃的だったのは、おそらく「推論時間のスケーリング限界」と名付けられた現象だろう。
人間であれば、難問に直面すればするほど、より多くの時間をかけて考え抜こうとするのが自然だ。しかし、AppleがテストしたAIは真逆の振る舞いを見せた。問題の複雑さが増し、「性能の崖」が近づくにつれて、AIは思考に費やす計算量（思考トークン）を逆に減らし始めたのだ。
これは、モデルに割り当てられた計算バジェット（思考のための体力のようなもの）を使い切るずっと前の段階で起きる。まるで、あまりの難しさにAIが自ら「さじを投げてしまった」かのようだ。この「思考の放棄」とも言える現象は、現在のAIアーキテクチャに内在する、我々の直感に反する根本的な限界を示している。
原因は何か？ パターンマッチングか、論理実行能力の欠如か
なぜこのような性能の限界が生じるのか。Appleの研究は、その原因を探るための重要な手がかりを2つ提示している。
証拠1：解法を教えても解けない
研究チームは、「ハノイの塔」の完全な解法アルゴリズムをプロンプトに含め、AIに「答えを見る」形で問題を解かせる実験を行った。解き方を探す必要がなく、ただ手順に従うだけでよいこのタスクは、本来はるかに簡単になるはずだった。
しかし、結果は驚くべきものだった。アルゴリズムを与えても、AIの性能はほとんど改善せず、ほぼ同じ複雑度の地点で性能が崩壊したのだ。これは、AIが単に「解き方を知らない（パターンがない）」のではなく、「指示された論理的な手順を正確に実行し、検証する能力」そのものに根本的な問題を抱えている可能性を強く示唆している。
証拠2：極端すぎる得意・不得意
AIは、31手（移動回数）を要するハノイの塔の問題をほぼ完璧に解く一方で、わずか11手で解けるはずの川渡りパズルでは早々に失敗した。
この不可解な性能差は、AIが「汎用的な問題解決能力」を獲得しているわけではないことを物語っている。むしろ、その性能は訓練データにどれだけ類似した例（パターン）が含まれていたかに大きく依存しているのではないか。ハノイの塔はWeb上に情報が豊富に存在する一方、複雑な川渡りパズルの例は少ない。AIの「推論」とは、結局のところ、極めて洗練された「パターンマッチング（模倣）」の域を出ていないのかもしれない。
この研究がAIの未来に投げかけるもの
Appleのこの研究は、AI業界全体にいくつかの重要な問いを投げかけている。
一つは、これまで半ば神話のように信じられてきた「スケール則」への疑問符だ。モデルを大きくし、データを増やし、計算力をつぎ込めばAIは無限に賢くなる、という考え方は、少なくとも単純な形では成り立たないのかもしれない。
二つ目は、現在主流であるTransformerアーキテクチャそのものの限界の可能性だ。今回観測された一貫した失敗パターンは、特定のモデルの実装上の問題というより、アーキテクチャ自体に内在する制約に起因するのではないか。
そして最も根源的な問いは、「思考」とは何か、だ。我々がAIの出力を見て「考えている」と感じるのは、それが人間にとって馴染み深い「言語」というインターフェースを通して現れるからこその“錯覚”に過ぎないのかもしれない。ある開発者が「LRMは、プロンプトエンジニアリングのハックを巧みにブランド化したものだ」と喝破するように、業界内にも冷めた見方は存在する。
我々はAIの「知性」をどう捉えるべきか
Appleの「思考の幻想」という研究は、AIに対する熱狂に一石を投じるものだ。しかし、それはAIの可能性を否定するものではない。むしろ、その能力を過大評価も過小評価もせず、冷静にその強みと限界を見極めることの重要性を示している。
AIは、特定の条件下で人間を遥かに凌駕する能力を発揮する強力なツールだ。しかし、それは魔法の杖ではない。未知の状況や論理の厳密さが求められる場面では、驚くほど脆い一面を見せる。
この研究は、AI開発に進む人類にとって、現在地と進むべき方向を教えてくれる貴重な羅針盤となるだろう。幻想を乗り越えた先にこそ、AIと人間が真に共生する未来があるはずだ。
Sources
- Apple Machine Learning Research: The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity
