生成AIの進化は、単純な対話型インターフェースから「自律型エージェント」への移行という新たな段階を迎えている。これまで理論やベンチマークの数値で語られることの多かったエージェントの自律性について、Anthropicが自社のAPIトラフィックおよびコーディングエージェント「Claude Code」から得られた数百万件のログデータを分析し、実社会における稼働実態を初めて明らかにした。
ソフトウェアエンジニアリングへの圧倒的な偏重と他領域への波及可能性
AIエージェントがあらゆる業務を自動化するという期待とは裏腹に、現段階での社会実装は特定のドメインに極端に偏っている。Anthropicの公開APIを通じたエージェントによるツール呼び出し（Tool calls）をドメイン別に分析した結果、全体の約50%がソフトウェアエンジニアリングに関連するタスクで占められていることが判明した。ビジネスインテリジェンス、カスタマーサービス、金融、Eコマースといった他の産業セクターでの利用は、それぞれ数パーセント程度にとどまる状態である。同社はこの状況を「エージェント普及の黎明期（early days of agent adoption）」と表現している。
この非対称な普及状況の背景には、ソフトウェア開発という領域が持つ明確な特性がある。コードの編集、コンパイル、テストの実行、デバッグといったプロセスは、デジタル上で完結する閉じた環境であり、検証システムを用いた自動的な検証が容易だ。仮にエージェントが誤ったコードを生成したとしても、実行前の段階で不具合を早期に検知しやすい環境が整っている。つまり、フィードバックループが圧倒的に短く、かつ客観的な正解・不正解を判定しやすい環境が、エージェントを安全に試行錯誤させるための理想的な「サンドボックス（実験場）」として機能しているのだ。
対して、現実世界の物理的・法的な制約を受ける他の産業や、失敗のコストが極めて高い領域（医療の診断支援、金融市場での自動取引など）でのエージェントの活用はまだ始まったばかりである。今回公開されたデータでは、医療記録の参照や暗号資産の自動取引、あるいは火災時の緊急対応支援やセキュリティの脆弱性診断（ゼロデイ攻撃の発見やペネトレーションテスト）といった自律性の高い動作も確認されている。不可逆的な操作（Irreversible actions）を伴うツール呼び出しはAPIトラフィック全体のわずか0.8%に過ぎないが、今後は他の産業セクターへの拡大とともに、より高いリスクと自律性が交差する領域へとユースケースが急速に波及していくことは想像に難くない。
稼働時間の劇的な増加と「デプロイメント・オーバーハング」の存在
エージェントの自律性を測る最も物理的で客観的な指標の一つが「人間の指示や介入なしに連続して稼働できる時間」である。AnthropicのClaude Codeにおけるインタラクティブセッションのデータ分析によると、1ターン（一度の指示から処理終了までの区間）あたりの稼働時間の中央値は約45秒と保守的な数値に留まっている。しかし、分布のテールエンドに目を向けると様相は一変する。
極端に複雑なタスクを実行する層（99.9パーセンタイル）における最も長いセッションでは、2025年9月下旬の段階で25分未満であった稼働時間が、2026年1月初旬には45分以上へと成長している。わずか3ヶ月余りの短期間で、AIが単独で自律的に活動する時間がほぼ倍増した計算になる。
ここで特筆すべきは、この稼働時間の増加がモデルの大規模なアップデート（新たなバージョンのリリースなど）のタイミングに合わせて階段状に急上昇したのではなく、なだらかな右肩上がりの成長曲線を描いている点だ。もし自律性の向上が純粋に「大規模言語モデルそのものの推論能力の向上」のみに依存しているのであれば、このような連続的な変化にはならない。
Anthropicはこの現象を「デプロイメント・オーバーハング（Deployment Overhang）」という概念を用いて説明している。つまり、AIモデル自体が潜在的に持っている自律遂行能力や複雑な計算力は、実際の現場で人間が許可している裁量権をすでに大きく上回って存在しているということだ。METR（Model Evaluation and Threat Research）による独立した能力評価によれば、Claude Opus 4.5は人間が約5時間かかる極めて難易度の高いタスクを50%の成功率で完遂できるポテンシャルを持つと推定されている。それにもかかわらず実際の最大稼働時間が45分程度にとどまっているのは、ユーザー側がまだその潜在能力を完全に解放していないか、あるいは人間側の信頼構築プロセスと監視の仕組みがAIの能力向上速度に追いついていないことを示唆している。稼働時間のなだらかな持続的増加は、ソフトウェア開発者たちが試行錯誤を通じて段階的にAIへの信頼を構築し、より大胆で野心的なタスクを丸投げしていくフローを日々の業務の中で確立しつつあるプロセスそのものを表しているのだ。
熟練ユーザーにおけるパラダイムシフト：監視の質的転換
AIエージェントの利用において、人間はどのように監視と承認のプロセスを再構築していくべきか。この最前線の問いに対する明確なインサイトが、ユーザーの習熟度（システムの利用履歴）と操作への介入パターンの相関関係から見出されている。
Claude Codeの利用データによると、利用回数が50回未満の新規ユーザーは、エージェントのアクションに対して「フル自動承認（Auto-approve）」を許可する割合が約20%にとどまっている。これに対し、利用回数が750回を超える熟練ユーザーのセッションでは、自動承認の割合が40%以上にまで大幅に上昇している。ユーザーはエージェントとの協調経験を積むにつれて、一つ一つのツール実行やコマンド発行を事前にチェックするマイクロマネジメントから意図的に手を引き、より包括的な権限をAIに譲渡していく。
ここにおいて、興味深い統計データの矛盾とも言える現象が観察される。熟練ユーザーは全自動承認の割合を大幅に増やしている一方で、処理の途中で人為的にプロセスを停止させる「割り込み（Interrupt）」の発生率自体も、新規ユーザーと比較して増加させているのである。
具体的には、新規ユーザーの割り込み率が全体の約5%であるのに対し、熟練ユーザーの割り込み率は約9%に達している。この数値は、熟練ユーザーが安全性の管理やエージェントの監視を単に放棄したわけではなく、監視の「質」と「方法論」を根本からパラダイムシフトさせたことを意味している。初心者はエージェントが一歩動くたびに事前許可を強制する「都度承認型」のスタイルをとるため、実行の途中で不意にプロセスに急ブレーキをかける必要がシステム構造上存在しない。一方、熟練ユーザーは高度なコンテキストと基本方針だけを与えてエージェントを自律的に走らせつつ、その出力の方向性が初期の要求から逸脱し始めた瞬間、あるいは無数の仮説検証の末に行き詰まり（ハング状態など）を感知した瞬間に、ピンポイントで的確な軌道修正を行う「事後介入・ハンドステアリング型（Steering in real-time）」のアプローチを確立しているのあ。
この傾向についての洞察は、AIモデルの開発者や次世代のプロダクトデザイナーに対して極めて重大な提言となる。システムの安全性を確保するためとして、「エージェントが実行する全てのアクションに人間の事前承認を機械的に義務付けること」は、表面的にはリスク回避に直結するように見える。しかし実態としては、ユーザーに無用な摩擦と疲労を強いるだけであり、安全性の抜本的な向上には必ずしも寄与しない。むしろ、エージェントの思考プロセスや現在の行動の意図を高度に透明化し、人間が適切なタイミングで全体像を把握し、容易に介入して要件の変更や軌道修正を行える仕組み（継続的なモニタリングダッシュボードの提供や、OpenTelemetryを活用したリアルタイムのステアリング機能など）の構築こそが、人間とAIの効果的なハイブリッド体制に不可欠な設計思想となるはずである。
自律型AIの最強のフェイルセーフ：キャリブレーションと逆質問
自律型エージェントシステムの安全性を担保する上で、人間による一方的な監視と同等かそれ以上に機能しているのが、モデル自身が内包する「不確実性の認識（Uncertainty Calibration）」と積極的な停止行動だ。AI自身がいつ立ち止まるべきかを理解しているかどうかは、エージェントの実践的価値を左右する。
Anthropicの分析データによれば、タスクの複雑度（Goal complexity）が上昇するにつれて、Claude Codeが自発的に作業を一時停止し、ユーザーに対して状況の確認や技術的な質問などを求める回数が顕著に増加している。データの示すところによると、最も時間のかかる難解な開発タスクにおいて、AI自身から人間の意思介入を要求する頻度は、人間が意図的に割り込んで操作に介入する回数の「2倍以上」にのぼっている。
エージェントが実行を自ら保留し、人間に質問を投げかける主な動機について、明確な傾向が分析されている。最も多いのは、ユーザーへのアプローチ方針の選択依頼であり（全体の35%を占める）、次いで不足している診断情報やテスト結果などの技術要件の収集（21%）、指示の曖昧な部分や不完全なリクエストに対する意図の明確化（13%）、システムへの認証情報やアクセス権限の要求（12%）、そして高リスクな操作を実行する直前の明示的な最終承認の取得（11%）となっている。対して、人間が自発的に割り込む最大の理由は、エージェント側に不足している文脈の追加や要件の急な変更（全体の約37%）、次にエージェントの無駄なループや遅延への強制ストップ（17%）に集中している。
このように、「判断に迷う箇所や曖昧な状況が生じた時に確実に立ち止まり、積極的に人間に判断を仰ぐ」というAIの振る舞い自体が、自律性の拡大に伴って生じる予測不能な挙動に対する最も頑健なセーフティネットとして機能している。自律性とは単に人間との接続を断たれて単独で自動化プロセスを独走することではなく、AIとユーザー、そしてシステム環境（プロダクト）という三者が絶え間ないフィードフォワードとフィードバックの循環を通じて共同で構築・維持する、極めて動的な関係性の上に成り立っているのである。
今後、自律型のAIエージェントの社会基盤への適用が進む中で、開発を主導するテクノロジー企業や規制当局は、この動的な関係性を正しく理解する必要がある。各システムの境界条件となるアクセス制限や権限制御の枠組みと併せて、モデル自らが自身の能力の限界と不確実性の度合いを常に正確にキャリブレーションし、適切なタイミングで人間の判断ループに回帰する「モデルレベルの訓練」を組み込む仕組みは、エージェントアーキテクチャの必須要件であり、事実上のベストプラクティスとなっていくに違いない。
AIは人間の仕事を奪って単独で走る特急列車ではなく、時に運転手にハンドルを預け、時に自ら危険を察知して急停車する、極限まで進化した最新の補助動力機関である。その関係性を深めるためのインフラとインターフェースの再設計こそが、私たちが取り組むべき次なる大きなフロンティアだ。
Sources
- Anthropic: Measuring AI agent autonomy in practice
