米国が中国に、国家安全保障に関わるAI事故を互いに知らせる通知制度を提案した。Scott Bessent米財務長官は2026年9月20日、ニューヨークで中国の何立峰副首相らと協議した後、AI対話と再会合について説明した。24日に予定されるトランプ大統領と習近平国家主席の首脳会談を前に、5月に合意した政府間対話を、事故時の連絡へ具体化する動きだ。ただし、中国側の公表文は通知制度に触れておらず、何を事故として、いつ、誰に知らせるかという運用条件は見えていない。

AD

米中の公表記録で分ける、対話と通知制度

Bessent氏は20日の会見で、米中AI対話という仕組みを話し合い、再び会合を開くことで合意したと述べた。そのうえで通知制度は米国側が提案したものだと説明している。Reutersが収録した発言では、再会合への合意と通知制度の提案が、別の文で語られている。

中国側もAIを議題にしたことは認めている。商務部が21日に掲載した新華社配信の発表は、何氏とBessent氏、Jamieson Greer米通商代表が経済貿易問題について協議し、AIについても対話したと記す。しかし、事故通知の対象や実施時期への言及はない。

2026年5月の政府間AI対話への合意に対し、9月20日の米側説明は事故通知の提案へ具体化したが、中国側の同日協議に関する公表はAIについて対話したとの記述にとどまる。

公表・発言の時点 誰が何を説明したか 合意・提案の対象
2026年5月19日 中国外交部が、トランプ氏訪中時の首脳間のやり取りを説明 政府間AI対話の実施に合意
9月20日 Bessent氏がニューヨーク協議後に発言 再会合に合意。米国が通知制度を提案
9月21日公表、20日の協議について 中国商務部が協議内容を掲載 AIについて対話したと記載。通知制度の記述はない

表は中国外交部の5月19日会見のAIに関する回答と、上記の米側発言、中国側公表文を、日付と合意対象で照合したものだ。公表内容の差から、非公開で何も合意していないとも、中国が通知制度を拒否したとも断定できない。一方、これだけで制度が動き始めたと読むこともできない。

翌21日には米側から、もう一段具体的な説明が出た。Reutersが報じたCNBCでのBessent氏の発言によると、両国は事故連絡窓口を含む対話を正式化し、約2カ月後に中国・深圳でAIの危険や連絡手順を協議する予定だという。制御不能なエージェントや、国家以外の主体によるサイバー上の脅威を例に挙げている。これは米側が示した今後の協議方針であり、通知基準や窓口の稼働日を定めた共同文書の公表とは区別しておく必要がある。

AI対話は以前からある。今回は事故時の連絡へ

米中のAI安全協議には、今回より前の積み重ねがある。米国家安全保障会議（NSC）は2024年5月14日の発表で、ジュネーブで両国政府が先端AIのリスクをどう理解し、どう対処するかについて意見を交換すると説明した。2023年11月の首脳会談を受けた協議で、当時は相手国のリスク認識を理解することが議題の中心に置かれていた。

今年5月の首脳会談でも、中国外交部は政府間AI対話への合意を公表している。したがって、9月の動きを「米中が初めてAIの危険を話し合う」と捉えると、今回進んだ部分がかえって分かりにくくなる。

今回の米側提案が向ける先は、事案が起きたときの連絡だ。平時に危険について意見を交換する場から、異常を察知した側が相手国へ知らせる手順に踏み込もうとしている。実現すれば、相手が何を把握しているのか分からない状態を短くする手段になり得る。ただし、知らせる仕組みと、被害を止める能力は別に整えなければならない。

安全上の協議が進むことを、技術競争の緩和と結び付けるのも早い。Reutersの20日の取材記事によれば、グリア氏は先端AIチップや半導体製造装置の輸出規制は、このAI協議の議題ではなかったと述べている。事故情報を共有することと、相手国が入手できる技術の範囲を変えることは、今回の説明では異なる問題として扱われている。

AD

何を事故として知らせるのか

「国家安全保障に関わるAI事故」という対象を掲げても、通知する時点は一意に決まらない。被害の発生を確認してから知らせるのか。被害が出る前でも、制御を失う兆候があれば連絡するのか。この違いによって、通知が事後報告になるか、予防のための情報になるかが変わる。

参考になるのが、経済協力開発機構（OECD）が2025年2月28日に公開したAI事故の共通報告枠組みだ。報告書は、AIによって実害が生じた事故と、事故につながり得る事象を区別する。さらに29の報告項目を示し、そのうち7項目を同枠組み内の必須項目に位置付けた。米中が採用した仕様ではないが、事故情報を共有する際に何を揃える必要があるかを考える材料になる。

報告書の表2.2には、事案の説明とAIとの関係、裏付け資料などが並ぶ。深刻度や被害の種類も必須項目だ。単に「AIが関わった」と伝えるだけでは、相手は危険の意味を判断しにくい。

例えば、AIエージェントが意図しない操作を続けている場合と、人がAIを意図的に悪用している場合では、止めるべき対象が異なる。前者なら権限や実行環境を調べる必要があり、後者なら利用者の行動や侵入経路の把握が必要になるだろう。これは運用を考えるための仮定だが、OECDもAIと事故の関係を、直接原因、寄与した要因、人による過信や悪用などに分けている。

同じ「事故」という呼び名でも、原因と被害、差し迫った危険は別々の情報だ。米中の通知制度が国家安全保障上の重大な事案を対象にするなら、こうした情報のうち何を初報に含めるのか、実害が確定していない段階でも伝えるのかを決める必要がある。今回確認できる公表文は、その線引きを示していない。

連絡先を決めた先に残る運用

OECDの報告書は、共通の報告形式を整える一方、事故後に取る予防・是正措置の具体的な指針を提供するものではないと明記している。情報を揃えて送ることと、受け取った側が対応できることは、制度設計でも別の仕事になる。

米中の構想を見る際にも、連絡窓口の名称より、その前後の動作が判断材料になる。まず、事案を把握した企業や研究機関の情報が、国内の担当機関へ届く必要がある。その担当機関が国外への通知を判断し、相手側が受け取り、対処できる組織へ渡す。この流れのどこかで情報が止まれば、政府間の連絡先だけがあっても警告は届かない。

企業が持つ情報には、危険の再現条件や操作の記録がある一方、攻撃に転用できる詳細や機密も含まれ得る。何を共有すれば相手が防御できるのか、どこからは危険を広めてしまうのかを分ける作業が要る。モデル名と版、発生した環境、被害の広がりを記録することは、その判断の出発点になるだろう。これらは通知案から導ける実務上の課題であり、米中が既に合意した要件ではない。

速さと正確さも両立させなければならない。原因を完全に確定するまで待てば、警告が遅れる可能性がある。しかし、不確かな初報を断定として伝えれば、受信側の判断を誤らせかねない。確認済みの事実と調査中の見立てを分け、後から訂正できる手順があってこそ、早い連絡が役に立つ。

約2カ月後と米側が見込む次回協議で、通知対象と期限、責任を持つ窓口、共有情報の扱いがどこまで具体化するか。企業から政府へ上がる情報と政府間の連絡がつながれば、競争を続ける両国にも、重大な異常を相手の判断に間に合う形で知らせる手段が生まれる。