中国軍がMetaのLlamaで軍事用AI開発 ─ オープンソースAIの軍事転用が現実に、米国で規制強化の動き

2024年11月2日

当記事のリンクにはアフィリエイト広告が含まれています。

中国人民解放軍（PLA）の最高研究機関である軍事科学院（AMS）の研究者らが、MetaのオープンソースAIモデル「Llama」を基に、軍事用チャットボット「ChatBIT」を開発していたことが明らかになった。Reutersの独自調査によると、このAIモデルは軍事情報の収集・分析や作戦上の意思決定支援を目的として開発されており、OpenAIのGPT-4の約90%の性能を発揮するとされている。この事実は、オープンソースAIモデルの軍事転用という新たな安全保障上の課題を浮き彫りにするものだ。

中国軍の組織的なAI研究体制が明らかに

軍事科学院（AMS）の軍事科学情報研究センターと国防技術革新研究所に所属するGeng Guotong氏とLi Weiwei氏を含む6名の研究チームは、6月に発表した研究論文で開発の詳細を明らかにした。チームには北京工業大学と中央民族大学の研究者も参加しており、中国軍が民間の研究機関と緊密に連携してAI開発を進めている実態が浮かび上がっている。

ワシントンDCのシンクタンク、ジェームズタウン財団のSunny Cheung研究員は「中国人民解放軍の専門家たちが、特にMetaのオープンソースLLMを軍事目的で系統的に研究し、活用しようとしている実質的な証拠が初めて確認された」と指摘している。

技術的特徴と潜在的な軍事応用

研究チームは、Metaが公開したLlama 13Bモデルを基盤として採用し、10万件の軍事関連の対話データでファインチューニングを実施した。注目すべきは、比較的小規模なデータセットにもかかわらず、OpenAIのGPT-4に匹敵する性能を実現したと主張している点である。

研究論文によると、ChatBITは「軍事分野における対話と質疑応答タスクに最適化」されており、将来的には情報分析にとどまらず、戦略的計画立案、シミュレーション訓練、指揮決定支援など、幅広い軍事応用が検討されているという。さらに中国軍の機関紙「解放軍報」は4月、AIが「兵器・装備の研究開発の加速」や「戦闘シミュレーションの開発」、「軍事訓練効率の向上」に貢献する可能性を論じている。

Metaの対応とライセンス規制の限界

Metaの公共政策ディレクターであるMolly Montgomery氏は、Reuters社の取材に対し「人民解放軍によるモデルの使用は無許可であり、利用規約に明確に違反している」と強調した。同社のライセンス条項は「軍事、戦争、核産業、スパイ活動」への利用を明確に禁止している。

しかし、Metaの広報担当者は、より本質的な問題を指摘している。「中国が人工知能分野で米国を追い抜くために1兆ドル以上を投資している状況下で、単一の、しかも古いバージョンの米国製オープンソースモデルの使用は、実質的には重要性が低い」という見解を示した。実際、同社は既にLlama 4の開発を進めており、問題となったバージョンは旧式とされている。

米国の危機感と対応策

この事態を受け、Biden大統領は2023年10月、AI開発に関する大統領令に署名。「イノベーションによる利益は大きいものの、モデルの保護機能の除去など、重大な安全保障上のリスクが存在する」との認識を示した。

さらに米国は今週、中国のAIなど先端技術分野への投資を制限する新たな規制の最終化を進めていることを明らかにした。これは単なる輸出規制の拡大にとどまらず、RISC-Vのようなオープンソース技術へのアクセス制限や、米国企業による中国のAI、半導体、量子コンピューティング分野への投資禁止まで視野に入れている。

Xenospectrum’s Take

今回の事例は、AIの「オープンネス」と「安全保障」という、相反する価値の衝突を象徴している。ジョージタウン大学新興技術安全保障センター（CSET）の2023年の調査では、中国の370の研究機関が汎用人工知能に関する論文を発表しており、2030年までにAI分野で世界をリードするという国家戦略の実現に向けて着実に歩を進めている。

特に注目すべきは、航空工業集団（AVIC）の研究者らによる別の論文で、Llama 2を「航空電子戦妨害戦略の訓練」に活用する研究が行われていることが明らかになった点である。これは、中国がオープンソースAIを軍事転用する取り組みを、より広範な領域で展開している可能性を示唆している。

しかし、CSETの主任アナリスト、William Hannas氏が指摘するように、「クッキージャーから彼らを締め出すことは不可能」な状況にある。米中の最高レベルのAI研究者間の協力は既に深く進んでおり、技術的な隔離は現実的ではない。

むしろ重要なのは、オープンソースコミュニティの健全な発展と安全保障上の要請をいかにバランスさせるかという点である。米国防総省のジョン・サプル報道官が述べたように、オープンソースモデルには「利点と欠点の両方がある」。今後は、イノベーションを阻害することなく、適切な規制の枠組みを構築することが、グローバルなAIガバナンスにおける最大の課題となるだろう。

Source