AI研究者のAndrej Karpathy氏が2026年10月のXへの投稿で、AIの能力に対する人々の認識の隔たりが、以前にも増して広がっていると指摘した。
同氏は4月の時点で、AIに対する認識が異なる二つの集団の議論がかみ合っていないと表現していた。しかし現在は、AIの利用経験によって人々が4つの層に分かれ、最先端のシステムを使いこなしている人ほど少なくなる構図が生まれているという。
無料のAIチャットを時々使う人と、複数のAIエージェントに大規模なソフトウェア開発を任せる人では、同じ「AI」という言葉から想像する能力が大きく異なる。
さらにKarpathy氏は、AIが成果を生み出す速度に、人間による検証や理解が追いつかなくなり始めているとも警告している。
実際に公開されたAIエージェントによる大規模開発実験や、AIが生成した大量の数学論文をめぐる動きを見ると、こうした認識の隔たりが生まれる理由と、AIの成果を実際に役立つ知識へと変えるための課題が浮かび上がってくる。
AIの利用経験は4つの層に分かれ、最先端に触れる人はわずか5,000人
Karpathy氏は10月のX投稿で、世界の人々をAIの利用経験に応じて4つの層に分類した。
最も人数が多いのは、大規模言語モデル（LLM）にほとんど触れたことがない約60億人だ。一方、最先端の社内システムを利用できる人は、わずか約5,000人だと推定している。
ただし、これらの人数はKarpathy氏自身が大まかに見積もったものであり、利用実態を調査して得られた統計ではない。
| AIの利用経験 | Karpathy氏の概算 | AIに対する認識や利用状況 |
|---|---|---|
| LLMにほとんど触れていない人 | 約60億人 | AIを直接利用した経験がほとんどない |
| 無料のAIチャットを時々使う人 | 約10億〜20億人 | 検索の補助や文章作成など、日常的な用途で利用する |
| 数学やプログラミングで最先端モデルを使う人 | 約2,000万人 | 従来は数週間から数か月かかった複雑な仕事を、AIエージェントに任せる経験がある |
| 最先端の社内システムにアクセスできる人 | 約5,000人 | 多数のAIエージェントによる長期的な協働や、科学・数学研究への応用を目にしている |
ここで示されているのは、利用者の知識や能力の優劣ではなく、どのようなAIシステムを使い、どれほど複雑な仕事を任せているかという違いだ。
また、各人数は厳密な調査に基づくものではないため、単純に合計して世界のAI普及率を算出することもできない。
Karpathy氏によれば、数学やプログラミングを専門としない人々の多くは、経営者などの専門職も含めて2番目の層にいるという。
例えば、経営者は日々の業務で人との対話に多くの時間を費やすため、AI技術の進歩を知識として理解していても、その能力を直接体験する機会は限られやすい。
一方、ソフトウェア開発者は、以前なら何週間もかかったアプリ開発やプログラムの移植をAIエージェントに任せ、その結果を自分の経験と比較できる。
両者がAIの能力について異なる評価を下すのは、単に理解度が違うからではない。そもそも、AIに任せている仕事の内容が異なるのだ。
さらに、最先端のAI企業の内部では、一般には公開されていないシステムを使って、より大規模な作業が進められているとKarpathy氏は説明する。
同氏によれば、数千のAIエージェントが数週間にわたって協働し、大規模なソフトウェア開発や、未修正の脆弱性の発見、科学・数学研究などに取り組んでいるという。
社外の人々が目にしてきた成果は、こうした最先端システムの能力の一端にすぎないというのが、同氏の見方だ。
もっとも、これはKarpathy氏が示した現状認識であり、約5,000人という人数や社内システムの能力が、独立した比較試験で確認されたわけではない。
AIの能力に対する認識が分かれる3つの理由
Karpathy氏は、人々のAIに対する認識が大きく異なる理由として、課題の規模、分野による能力差、利用できるシステムの違いという3つの要因を挙げている。
まず重要なのが、AIに任せる仕事の規模と、それに取り組む時間の長さだ。
短い質問に対して一段落程度の回答を生成させるだけでは、最先端モデルの能力を十分に引き出せない。複雑で大きな課題を与え、長時間にわたって取り組ませることで、初めて能力の違いが明確になるという。
例えば、AIが自然な文章を生成できることと、複数のファイルにまたがる大規模なソフトウェア開発を最後まで進められることは、まったく異なる能力だ。
後者では、作業の進捗管理、エラーの発見と修正、テストの実行、変更内容の統合など、多くの工程を継続的にこなす必要がある。
一度の質問に対する回答だけを比較していては、こうした長期的な作業を遂行する能力を評価することは難しい。
二つ目の要因は、分野によってAIの能力に大きな差があることだ。
Karpathy氏は、AIの能力向上が特に著しいのは、デジタル環境で完結し、結果の正しさを検証でき、経済的な価値も大きい分野だと説明している。
代表的なのがプログラミングと数学である。
プログラミングでは、生成したコードを実行したり、テストに通したりすることで、結果が正しいかを比較的明確に判断できる。数学でも、答えの検算や形式的な証明の検証によって、正しさを確認できる場合がある。
こうした特徴は「検証可能な報酬による強化学習」と相性がよい。
これは、モデルが生成した結果を評価し、正しい結果に報酬を与えることで能力を高める学習方法だ。客観的に正誤を判断できる分野では、学習に利用する評価基準を設計しやすい。
また、AI企業が商業的な価値の高い分野へ学習用の計算資源を集中させることも、能力の偏りにつながっているとKarpathy氏は考えている。
ただし、モデルを訓練する際に正解を報酬として与えることと、実際の開発作業でテストを実行しながら修正を重ねることは、異なる工程だ。
前者はモデル自体の能力を高めるための仕組みであり、後者は学習済みモデルを利用して仕事を進める方法である。どちらも、結果の正しさを確認できることが重要になる。
三つ目の要因が、AIシステムへのアクセスの違いだ。
無料で使えるモデル、有料プランで利用できる最先端モデル、AI企業の内部で使われる研究用システムでは、利用できる能力や計算資源、実行環境が異なる。
さらに、同じモデルを使っていても、任せる仕事の内容や、エージェントを動かす仕組みによって結果は変わる。
つまり、AIの能力を単純に無料版と有料版の違いだけで比較することはできない。
Karpathy氏が指摘する認識の隔たりは、モデルそのものの性能差に加え、利用目的や実行環境、結果の検証方法の違いが重なることで生まれている。
16体のAIエージェントがCコンパイラを開発、人間が担った重要な役割
AIエージェントによる大規模開発の実例として注目されるのが、Anthropicの研究者Nicholas Carlini（ニコラス・カルリーニ）氏が2026年2月5日に公開した実験だ。
Carlini氏はAnthropicの技術ブログで、16体のClaudeエージェントを並列に動かし、RustでCコンパイラを開発させた結果を報告している。
コンパイラとは、人間が記述したプログラムを、コンピューターが実行できる機械語などに変換するソフトウェアだ。
実験ではClaude Opus 4.6を使用し、約2週間にわたって約2,000回のClaude Codeセッションを実行した。
その結果、約10万行のコードからなるCコンパイラが完成し、x86、ARM、RISC-Vという3種類のアーキテクチャ向けにLinux 6.9をビルドできたという。
API利用料は約2万ドルに達した。
これだけを見ると、AIが人間の手をほとんど借りずに高度なソフトウェアを開発したように思える。
しかし、Carlini氏の報告で特に重要なのは、人間がどのような仕組みを設計することで、AIエージェントによる長期開発を可能にしたかという点だ。
同氏によれば、開発期間中に多くの労力を費やしたのは、コンパイラのコードを直接書くことではなく、AIが自律的に作業を続けられる環境を整えることだった。
具体的には、テストの設計、実行環境の構築、進捗状況の記録、エラーの検出、結果をAIへフィードバックする仕組みなどだ。
AIエージェントは、与えられた課題に対して自律的に作業を進められる。しかし、自分の作業が成功したかどうかを正しく判断できなければ、誤った方向へ進み続けてしまう可能性がある。
そのため、適切なテスト環境を用意し、何が成功で何が失敗なのかを明確にする必要があった。
この問題は、Linuxカーネルのビルドに取り組んだ際に特にはっきり表れた。
当初、複数の独立したテストで異なる不具合を修正していた段階では、16体のエージェントによる並列作業が効果的に機能していた。
ところが、Linuxカーネルのビルドという大きな課題に取り組み始めると、状況が変わった。
複数のエージェントが同じ不具合に遭遇し、同じ修正を試みた結果、互いの変更を上書きしてしまう問題が発生したのだ。
エージェントの数を増やしても、作業を適切に分担できなければ、効率が上がるどころか混乱を招くことがある。
そこでCarlini氏は、既存のコンパイラであるGCCを、正しい動作を確認するための基準として利用した。
まず、Linuxカーネルの大部分をGCCでコンパイルし、一部のファイルだけをClaude製コンパイラで処理する。
その状態で問題が発生した場合には、Claude製コンパイラが処理するファイルをさらに絞り込み、不具合の原因を特定していく。
この仕組みによって、各エージェントが異なるファイルの問題に取り組めるようになり、並列作業を進められるようになった。
つまり、大規模な開発を成立させたのは、AIモデルの能力だけではない。人間が仕事を分担できる形に整理し、成果の正しさを検証する仕組みを設計したことも重要だったのである。
もちろん、完成したコンパイラにも限界は残っている。
x86環境でLinuxを起動する際に必要な16ビットコードの生成にはGCCを利用しており、実演時のアセンブラーやリンカーにもGCC系のツールを使用していた。
また、生成されるコードの効率は、最適化を無効にしたGCCにも及ばなかったという。
Carlini氏自身も、実用的なコンパイラをそのまま置き換えられる段階ではなく、生成されたRustコードの品質も熟練した開発者には及ばないと認めている。
それでも、16体のAIエージェントが約2週間で10万行規模のコンパイラを作成したことは、長期的な自律開発の可能性を示す成果といえる。
ただし、約2万ドルという数字はAPI利用料であり、人間による環境設計や検証などを含む開発費の総額ではない。この結果から、一般的なソフトウェア開発の費用が同じように削減できると結論付けることはできない。
また、2026年2月のこの実験は、Karpathy氏が10月に言及した最先端の社内システム全般の能力を直接証明するものでもない。
AIが722本の数学原稿を公開、検証と修正が追いつくか
AIによる成果の生成と、人間による検証の間に生じる問題は、数学研究でも表面化している。
OpenAIは2026年10月6日、社内の最先端AIモデルが生成した数学研究の成果をGitHubで公開した。
公開された数学原稿は722本に上り、幅広い数学分野の未解決問題に関する成果や、その証明が含まれていた。
また、多くの証明については、数学的な主張や論証をLeanという形式言語で記述し、コンピューターで検証できる形にしている。
Leanは、数学の証明を厳密な規則に従って記述し、その論理的な正しさを機械的に検査できる仕組みだ。
しかし、722本もの原稿が公開されたことは、そのすべてが正しい新発見として確定したことを意味しない。
実際、公開翌日の10月7日付で記録された更新履歴では、一部の原稿の撤回や修正が報告されている。
OpenAIが公開している数学研究リポジトリの更新履歴によると、主な変更は次のとおりだ。
| 時点 | 公表された内容 | 注意すべき点 |
|---|---|---|
| 10月6日 | 722本の数学原稿と、多くの証明のLean形式化を公開 | 公開されたすべての結果について、正しさや新規性が確定したわけではない |
| 10月7日付の撤回記録 | 3本の原稿を撤回 | 1本の原稿で発見された符号の誤りが、依存する2本の論証にも影響した |
| 同日付の修正記録 | 別の14本の原稿を修正 | 証明の修復、主張や仮定の修正、参照文献の訂正などを実施 |
| 同日付の追加更新 | さらに13本の原稿で参照先と版の日付を更新 | 修正された関連原稿への参照を更新したもので、13件の独立した証明の誤りを意味しない |
ただし、これらは更新履歴に記録された日付であり、すべての問題が10月7日に初めて発見されたという意味ではない。
撤回された3本の原稿では、そのうち1本に含まれていた符号の誤りによって、証明の重要な部分が成立しなくなった。
さらに、その論証を利用していた別の2本の原稿にも影響が及んだため、合計3本が撤回された。
ここで注意したいのは、証明に誤りが見つかったことと、証明しようとしていた数学的な命題そのものが誤りだと判明したことは異なる点だ。
今回の撤回は、提示された論証では主張を正しく導けないことを意味している。
また、同じ更新履歴によると、主要な結果719件のうち300件、約42%についてLeanによる形式化が行われている。
これは機械的な検証に対応した成果の割合を表すものであり、残りの約58%が誤っているという意味ではない。
一方、形式化された証明が増えても、数学者による検証や理解が不要になるわけではない。
機械的な検証では、形式言語で記述された証明が、定められた論理体系に従っているかを確認できる。
しかし、その結果が数学的にどれほど重要なのか、既存の研究とどう関係しているのか、どのような新しい研究につながるのかといった問題には、人間による理解や評価が必要になる。
また、形式化された主張や仮定が、元の研究で意図されていた内容と一致しているかを確認することも重要だ。
この点は、AIが開発したコンパイラで、テストが通過した範囲と実用上の品質を区別する必要があったことにも通じる。
AIが大量の成果を生み出せるようになっても、何が検証され、何がまだ確認されていないのかを明確にしなければ、その成果を信頼して利用することは難しい。
OpenAIも、今後は数学的な説明や引用、結果の提示方法を改善するとともに、研究者が成果への理解を深めるためのワークショップや研究集会などを支援する方針を示している。
同社は、数学の成果1件を生成するために使用した計算量の平均を、ChatGPT Proで約3時間推論した場合に相当すると説明した。
ただし、これはAIが成果を生成するために使った計算量の目安であり、人間がその内容を理解し、検証するまでに必要な時間を表すものではない。
AIが成果を生成する速度と、それを人間が検証して活用できるようにする速度は、別の問題なのである。
AIの能力を測るには、何を達成し、どこまで検証できたかが重要
Karpathy氏が示した4つの層と、実際に公開された大規模開発や数学研究の事例からは、AIの能力を評価するうえで重要な点が見えてくる。
それは、単に「AIに何ができるようになったか」を比較するのではなく、どのような条件で、どこまでの成果を達成したのかを確認する必要があるということだ。
無料のAIチャットで文章を作成した経験だけでは、複数のエージェントによる長期的なソフトウェア開発の能力を十分に理解することは難しい。
一方、大規模な開発に成功した事例があっても、その成果が実用的な品質を備えているとは限らない。
コンパイラであれば、Linuxをビルドできたことに加え、生成コードの効率や外部ツールへの依存、未対応の機能などを確認する必要がある。
数学研究であれば、公開された原稿の数だけでなく、証明が形式化されている範囲、修正や撤回の履歴、他の研究者による検証状況などが重要になる。
つまり、AIによる成果を評価するには、モデルの種類や作業規模とともに、成功と判断した基準や検証方法を明確にしなければならない。
Karpathy氏が示した約5,000人という推定値そのものを、厳密な統計として受け取る必要はない。
重要なのは、最先端のAIシステムを直接使っている人と、それ以外の人との間で、AIの能力に対する認識が大きく異なっているという指摘だ。
この隔たりを縮めるには、最先端のAIが生み出した成果を、外部の人間にも検証できる形で公開することが欠かせない。
成功した結果だけでなく、どのような条件で達成したのか、何ができなかったのか、どこまで正しさを確認したのかを明らかにする必要がある。
AIエージェントが生成したコードを別の開発者が検証し、修正して利用できること。AIが提示した数学の証明を研究者が理解し、次の研究へ発展させられること。
そうした過程を経て初めて、AIが生み出した成果は、一部の研究者や開発者だけの体験にとどまらず、広く共有できる知識や技術へと変わっていく。
AIの進歩が加速するなかで、今後ますます重要になるのは、成果を生み出す能力だけではない。その成果を人間が理解し、検証し、安心して利用できる状態にするための仕組みも、同じように発展させていく必要がある。
