人工知能（AI）が人間の知能を超えようとしているという主張が一般的になっている。一部の評論家によれば、大規模言語モデルにおける急速な進歩は、社会を根本的に再構築する「超知能」の登場という差し迫った転換点を示しているという。
しかし、AIを個人の知能と比較することは、人間の知能とは何かという本質的な点を見逃している。私たちの知能は、主に孤立した個人のレベルで機能するものではない。それは社会的で、身体化され、集団的なものである。このことを真剣に受け止めると、AIが人間の知能を超えようとしているという主張は、はるかに説得力を失う。
これらの主張は特定の比較に基づいている。すなわち、AIシステムは個人の人間の認知能力と比較されるのだ。機械はエッセイを書き、試験に合格し、病気を診断し、あるいは人間と同じように音楽を作曲できるだろうか。こうした狭い基準では、AIは印象的に見える。
しかし、この枠組みは従来の知能テスト自体の限界を反映している。すなわち、文化的偏見、そして慣れと練習に対する報酬だ。したがって、AIの台頭は、知能とは何を意味するのかについてより多くの思考を促すべきである。狭い認知的指標を超え、さらには感情的知能のような一般的な拡張概念をも超えて、より豊かで文脈的な定義へと私たちを導くべきなのだ。
知能は個人の才能ではない
人間の認知的達成はしばしば例外的な個人に帰されるが、これは誤解を招く。認知科学と人類学における研究は、私たちの最も高度なアイデアでさえ、集団的プロセス、すなわち共有言語、文化的伝達、協力、そして世代を超えた累積的学習から生まれることを示している。
科学者、エンジニア、芸術家は誰も単独で働いているわけではない。科学的発見は共通の手法、査読、そして組織に依存している。言語それ自体は、おそらく人類の最も強力な認知技術であるが、社会的相互作用を通じて数千年にわたって洗練され修正されてきた集団的達成である。
「集合知」に関する研究は、視点、コミュニケーション、そして協調性において多様性が存在する場合、集団が最も有能なメンバーをも凌駕できることを一貫して示している。この集団的能力は人間の知能にとって任意の付加物ではない。それは知能の基盤なのだ。
対照的に、AIシステムは協力せず、意味を交渉せず、社会的絆を形成せず、共有された道徳的推論に従事しない。それらは孤立した状態で情報を処理し、意識、意図、説明責任なしにプロンプトに応答する。
身体性と社会的理解が重要である
人間の知能は身体化されている。私たちの思考は身体的経験、感情、社会的相互作用によって形作られる。発達心理学は、学習が乳児期に触覚、運動、模倣、他者との共有された注意を通じて始まることを示している。これらの身体化された経験が、人生の後半における抽象的推論の基礎となる。
AIにはこの基礎が欠けている。言語モデルはテキストから統計的パターンを学習するのであって、生きた経験から意味を学習するのではない。それらは人間が行うような方法で概念を理解しない。データの相関関係に基づいて言語的応答を近似するのだ。
この限界は社会的および倫理的文脈において顕著になる。人間は、私たちが社会化される相互作用と共有された文化的理解を通じて、規範、価値観、感情的手がかりを扱う。だが機械はそうしない。
人類の狭い断片
AI進歩の支持者たちは、現代のシステムを訓練するために使用される膨大な量のデータを指摘することが多い。しかし、このデータは人類の驚くほど狭い一面しか反映していない。
オンラインコンテンツの約80%はわずか10の言語で生成されている。世界中で7,000以上の言語が話されているにもかかわらず、インターネット上で一貫して表現されているのは数百の言語のみであり、高品質で機械可読な形式で表現されているものはさらに少ない。
これは重要な意味を持つ。なぜなら、言語は文化、価値観、思考様式を担っているからだ。大部分が均質化されたデータセットでAIを訓練するということは、世界人口の比較的小さな部分の視点、仮定、偏見を埋め込むことを意味する。
対照的に、人間の知能は多様性によって定義される。異なる環境と社会システムに住む80億人の人々が、共有されているが複数的な認知的景観に貢献している。
AIはこうした豊富な情報にアクセスすることも、独自に生成することもできない。AIの学習に用いられるデータは、非常に偏ったサンプルから得られたものであり、世界の知識のほんの一部に過ぎないのだ。
スケーリングの限界
「超人的な」AIに関する主張においてほとんど言及されない別の問題は、データの希少性だ。大規模モデルはより多くの高品質データを取り込むことで改善されるが、これは有限の資源である。研究者たちは、モデルが訓練に適した利用可能な人間生成テキストの限界に近づいているとすでに警告している。
提案されている解決策の1つは、他のAIシステムによって生成されたデータでAIを訓練することである。しかし、これはエラー、偏見、単純化が修正されるのではなく増幅されるフィードバックループを生み出すリスクがある。世界から学ぶ代わりに、モデルは自分自身の歪んだ反映から学ぶのだ。
これはより深い理解への道ではない。エコーチェンバーに近いものである。
優れた精神ではなく有用なツール
これはAIシステムが強力なツールであることを否定するものではない。それらは効率を高め、研究を支援し、意思決定を支え、情報へのアクセスを拡大できる。慎重に、そして監視のもとで使用すれば、社会的に有益である。
しかし、有用性は人間的な意味での知能と同じではない。AIは狭く、派生的であり、人間の入力、評価、修正に依存している。それは意図を形成せず、集団的推論に参加せず、人間の知能を成り立たせている文化的プロセスに貢献しない。
AIの急速な進歩は興奮を生み出した。そして一部では誇張された期待も生み出した。危険なのは、機械が明日私たちを出し抜くということではなく、誇大な言説が真の問題、すなわち偏見、ガバナンス、労働への影響、そしてこれらのツールの社会への責任ある統合から注意をそらすことである。
カテゴリーエラー
AIと人間の知能を、あたかも同じ土俵で競争しているかのように比較することは、究極的にはカテゴリーエラーである。人間は孤立した情報処理者ではない。私たちは、協力、多様性、共有された意味から知能が生まれる社会的存在である。
機械がその集団的で、身体化され、倫理的な認知の次元に参加できるようになるまで—そしてそれができるという証拠はない—AIが人間の知能を超えるという考えは、洞察というよりも誇大宣伝のままである。