CNNは2026年9月18日、AIの助けで作られた誤った情報報告を受け、米軍が中東で中国船を臨検する準備を進めていたと報じた。武装した要員が乗船に備え、軍用機も飛行中だったという。作戦直前の追加確認で、分析官が使ったチャットボットによる貨物の誤認が判明した。ただし、事件は匿名情報源に基づく独自報道であり、米政府は確認していない。問われているのはAIが間違えた事実だけではなく、未検証の推論が、なぜ軍事作戦を動かすほど信頼された情報へ変わったのかである。
中国船への臨検準備、なお残る未確認部分
CNNは事件を知る4人の情報源から取材した。うち2人は武装した米軍要員が中国船への乗船を準備していたと説明し、1人と別の情報源は軍用機がすでに飛行していたと語った。発端となった情報報告は、船が中東で核兵器計画に関わる部品を運んでいると主張していた。
作戦が始まる直前、当局者が報告を詳しく調べ、特殊作戦司令部の分析官がAIの助けを借りて作った文書だと判明した。分析官が使ったチャットボットは、船の貨物を誤って特定していたという。ある情報源は報告を「完全に虚偽」と評し、「ほとんど戦争を始めるところだった」とCNNに語った。これは情報源の評価であり、政府の確定判断ではない。
未確認部分は多い。CNNは実際の貨物を特定できず、問題のチャットボットが商用製品か政府の内部ツールかも分からなかった。軍用機の任務、臨検の承認段階、作戦の法的根拠も公表されていない。米太平洋特殊作戦司令部と米戦争省はCNNの取材に回答しなかった。中国側や船舶運航者による確認もない。したがって、現時点で言えるのは「米軍が臨検寸前まで進んだとCNNが報じた」ところまでである。
AIは貨物を誤認し、報告書の外観まで整えた
CNNが伝えた処理の流れには、AIが2度登場する。最初は分析だ。米太平洋特殊作戦司令部に由来する船荷関連の情報を分析官がチャットボットへ問い合わせると、ツールは公開情報と政府が持つ機密の信号情報を組み合わせ、貨物を核兵器計画の部品と結びつけたとされる。誤認がモデルの生成、入力情報の欠陥、検索・統合の不具合、分析官の解釈のどこで生じたかは分かっていない。
2度目は文書化だった。分析官はAIをもう一度使い、得られた結論を軍内で信頼される標準的な情報報告の形へ整え、配布したという。ここで内容の不確実性が減ったわけではない。むしろ、文章が読みやすくなり、見慣れた形式に収まることで、結論だけが組織内を通りやすくなった可能性がある。
標準様式は、情報の正しさを保証しない。だが受け手は、整った文書を見れば、原資料の確認、情報源の評価、反対仮説の検討がすでに済んでいると受け取りやすい。CNNの説明が正しければ、AIは誤った結論を出しただけでなく、その結論を既存の情報成果に似た外観へ変える役割も担った。誤りが権威を得る経路が、そこにある。
「人間が確認した」だけでは止められない
軍事AIでは、人間を意思決定の輪に残すことが安全策として語られる。しかし人間が何を見て判断したかを分けなければ、関与の有無だけでは十分ではない。AIが原資料を選び、異なる情報を統合し、結論を要約し、さらに標準様式へ整えた後の文書だけを人間が読むなら、確認者は事実と推論の境界を追えない。
米国が2023年に公表した「責任ある軍事AI利用に関する政治宣言」は、この問題をかなり具体的に想定していた。宣言は、利用者や承認者がシステムの能力と限界を理解するよう訓練し、自動化された出力を過度に信じる自動化バイアスを抑えるよう求めた。用途を明確に定め、ライフサイクル全体で厳格な試験と保証を実施し、意図しない結果を検知・回避できる安全策も挙げている。責任ある人間の指揮統制系統に置くことも原則の一つだった。
2024年12月に米国防総省のTask Force Limaがまとめた要約は、生成AIの制約としてハルシネーション、説明可能性の不足、セキュリティ上の弱点、試験評価手法の限界を列挙した。安全や安全保障に重大な影響を及ぼす用途では、適した場面にだけ配備し、利用者が能力と限界を理解する必要があるとも記した。つまり、今回報じられた種類の危険は、展開前から知られていた。
それでもCNNが取材した複数の政府関係者は、軍と情報機関のAI利用が分散しており、部門ごとにツール、命令、安全基準が異なると説明した。AIの出力をどう検証するかについて、統一された一組の基準はないという。原則が存在しても、個別部隊の作業手順、監査記録、作戦前の停止条件へ落ちなければ、現場では安全策として働かない。
警告の後に来た全軍展開と30日更新
リスクを記したTask Force Limaの要約から約1年後、米戦争省は生成AIの利用範囲を大きく広げた。2025年12月9日、同省はGoogle CloudのGemini for Governmentを最初のモデルとするGenAI.milを発表した。管理対象非機密情報を扱えるIL5環境で提供し、全職員向けの無償訓練も用意した。公式発表は、検索情報に基づいて回答を補う仕組みにより、ハルシネーションの危険を大幅に減らすと説明していた。
翌2026年1月のAI戦略は、約300万人の文民・軍人へ主要モデルを届け、情報データにもAIの活用経路を設ける方針を示した。最新モデルを一般公開から30日以内に配備できる更新周期を整え、試験・認証を含む導入の障壁を取り除くよう求めた。複数のAIエージェントを結ぶ「Agent Network」で意思決定を支援する実験も掲げている。速度は明確な目標になった。
ただし、この展開とCNNが報じた事件を直接結びつける証拠はない。使われたチャットボットがGenAI.milだったか、Gemini、Grok、Claude、ChatGPT Milのいずれかだったかは不明である。GenAI.milのWeb参照機能が今回の誤認を防げたかどうかも判断できない。確認できるのは、米政府が危険を公に認識した後、より多くの人員、データ、任務へAIを急速に広げる政策を選んだという時間軸だ。
この時間軸は、速度と安全が必ず対立することを証明しない。一方で、モデルを30日単位で更新し、各部門が異なる環境で試すなら、モデル性能だけでなく、情報の出所表示、承認手続、監査ログ、独立照合の手順も同じ速さで更新しなければならない。そうでなければ、性能向上で減った誤りより、利用件数の拡大で増えた見逃しの方が大きくなる可能性がある。
再発防止はモデル名より情報の来歴
CNNの報道から導ける対策は、特定のチャットボットを外すことではない。まず、原資料、AIが抽出した事実、AIが生成した推論、分析官の判断を別々に記録し、受け手が戻れるようにする必要がある。公開情報と機密情報を統合した場合も、どの主張がどちらに依存するのかを追跡できなければならない。
次に、AIを使って標準様式へ整えたことを文書上で明示する。形式が整っているほど、受け手は内容まで検証済みだと思いやすい。AI利用の表示は文書の価値を下げる印ではなく、どの箇所を人間が原資料と照合すべきかを示す手掛かりになる。
そして、判断が武力行使へ近づくほど、同じ情報報告の内部確認だけで済ませず、原資料へ戻る独立照合を要求する。船荷の品目、核関連用途との結びつき、船舶の同一性と航路は、別の分析官や別系統の情報で確かめる必要がある。照合できなければ、AIの確信度や文書の完成度にかかわらず作戦を止める。これは事件後に米軍が導入したと確認できる対策ではなく、米政府自身が掲げた訓練、監査可能性、厳格な試験、安全策を、報道された失敗経路へ当てはめた要件である。
米軍が次に示すべきなのは、モデル名だけではない。事件の存在、誤認した貨物、配布前の検証手順、作戦を止めた照合、事件後の是正措置をどこまで公開するかである。その情報がそろって初めて、最後に人間がいたという説明が、実際に機能した安全策だったのかを判断できる。
