5月14〜15日に北京で予定されるTrump大統領と習近平国家主席の会談を控え、米国と中国はAIに関する公式協議の開始を検討している。2024年11月に両国が合意した「核兵器使用の意思決定にAIを関与させない」という原則は重要な出発点だったが、生成AIモデルの予期せぬ動作、自律兵器システムの誤作動、非国家主体（テロ組織・サイバー犯罪グループなど）によるオープンソースAI悪用という「核領域の外側」のリスクは依然として空白域になっている。AI技術の予測不可能性が増す中で、両国が最初に合意しようとしているのは技術覇権の確認ではなく、暴走を防ぐ最低限のガードレールだ。

AD

協議候補の3テーマ：モデル暴走、自律兵器、オープンソース悪用

The Wall Street Journal（WSJ）によれば、検討されている協議の議題にはAIモデルの予期せぬ動作、自律兵器システム、非国家主体によるオープンソースAIツール悪用が含まれる。Reutersも同様に報じており、米国側ではScott Bessent財務長官が交渉を主導すると伝えられている。一方、中国外務省の林剣報道官はGlobal Timesに対し「現時点で提供できる情報はない」と述べており、中国側の正式な対応者はまだ指定されていない。

これら3テーマが議題に上がる理由は、AIの運用と軍事システムの「接続」にある。AIモデルは確率的に出力を生成するため、安全評価を通過したモデルでも外部ツールや兵器システムと連携すると、想定外の指示解釈が作戦判断に影響しうる。オープンソースのAIツールは誰でも検証・改変できる半面、攻撃コードの生成や偽情報制作に転用される余地を残す。自律兵器システムは、AIが組み込まれることで人間の判断なしに攻撃を実行できるようになる。技術仕様と軍事運用の両方を議題とするのは、その交差点に制御しきれないリスクが集中しているためだ。

2023年の対話はなぜ成果が限定的だったのか

2023年、米Biden政権下で米中AI協議の第一ラウンドが始まった。しかし交渉を担ったRush Doshi氏によれば、北京が技術機関ではなく外務省を派遣したことが実質的な合意形成を阻んだという。双方の議論はリスク管理の技術的詳細には踏み込まず、外交的な相互確認にとどまった。

2024年11月の合意は一定の進展だった。米中は「核兵器使用の意思決定にAIを関与させない」という原則に同意した。ただしこれは人間が最終判断を担うという確認であり、核領域の外側—自律兵器、モデルの異常動作、オープンソース悪用—には明示的に触れていない。今回検討される協議は、その空白を埋める試みと位置づけられる。

国家が意図しなくてもAIが危機を引き起こしうるシナリオが増えている。生成AIモデルの能力が高まるほど、意図せぬエスカレーションのリスクは拡大する。この認識は米中双方で共有されているとみられ、「敵対する2国が危機管理の枠組みでは協力できる」という冷戦期の知見がここで再び参照されている。

AD

AI危機通信ホットラインが「最後の経路」になる理由

AI危機通信ホットラインの開設も、検討されている議題の一つだ。誤認や偶発的なエスカレーションが起きた際に、政府間で状況を直接確認するための経路を指す。

冷戦期の米ソ間ホットラインは「人間の判断遅延」に対するものだった。核ミサイルの発射決定には時間的余裕があり、ホットラインは数時間から数日単位のコミュニケーション断絶を補う目的で機能した。AI時代の問題は時間軸が根本的に異なる。自律システムの誤作動は秒〜分単位で連鎖し、人間が介入できるウィンドウが極端に短い。AIモデルの異常出力がサイバー攻撃と誤認された場合、事実確認のチャンネルがなければ意図しない報復プロセスが自動的に動き始める。ホットラインは技術的な制限ではなく、その「秒単位の誤判断」を止める運用ルールとして位置づけられる。

技術覇権の応酬がガードレール合意を難しくしている

2026年4月、ホワイトハウスは中国が「産業規模」でAI技術を盗んでいると公開非難した。Trump大統領は5月上旬、「米国がAIでリードしている」とXi Jinping氏に伝える考えを示している。中国は第15次5カ年計画（2026〜2030年）で人型ロボットとエンボディドAI（身体化AI）を重点育成領域に指定し、国家主導で産業育成を進めている。

両国のAI政策は、安全管理の協議と産業競争を同時に抱えている。米国側の協議担当がAI専門機関ではなくBessent財務長官であることも、経済交渉との連携を示唆する一方、技術的な実質合意を難しくする可能性を指摘する見方がある。技術覇権をめぐる応酬が続く中でガードレール合意を形成するには、双方に政治的なコストを伴う。

5月14〜15日の北京サミットでAI協議が正式議題に乗るかどうか、現時点では確定していない。競争の勝敗を決める交渉ではなく、競争が事故に変わる経路を狭める協議として米中AI対話を見るなら、最初の合意が「危機時の連絡経路」から始まることには合理性がある。5月15日以降、ホットライン開設や協議正式開始の発表があるかどうかが次の注目点になる。