米国の、そして世界の行く末を決める極めて重要な選挙となる米国大統領選挙が今年行われるが、これに際し、中国が生成AIを利用して米国世論に混乱をもたらしている可能性があるとして、その危険性を訴える報告書がMicrosoftの脅威分析センター（Microsoft’s Threat Analysis Center: MTAC）によって公開された。
「East Asia threat actors employ unique methods」と題された報告書の中で、中国政府と関係のある個人が、選挙に混乱をもたらすようなビデオ、ミーム、音声などを作成するためにAIを活用し始め、そうした偽情報コンテンツの量を増やし、また米国人を装い、国内問題に関する世論の分裂を招くような選挙妨害キャンペーンを行っていると指摘している。
Microsoftは、「中国は少なくとも、これらの注目度の高い選挙で自分たちの立場を有利にするようなAIが生成したコンテンツを作成し、増幅させるだろう」と述べ、警鐘を鳴らしている。現在はまだ影響力は大きな物ではないが、その手法の洗練が続けば、今後はその効果はますます無視できない物になる可能性がある。
具体的な例として、中国のソーシャルメディア・アカウントが推し進める、生成AIを使って作成された陰謀論的なコンテンツのいくつかを検証している。これには、2023年8月に北京が支援するグループ「Storm 1376」が発表した、米国政府が軍用気象兵器を用いて意図的にハワイの山火事を引き起こしたという陰謀めいた主張が含まれている。同じグループは2023年にケンタッキー州の鉄道脱線事故に関する陰謀説を発表し、人種関係、都市衰退など、米国で話題になっている問題についての偽情報を流すために同様の動きを見せている。
「中国のサイバー・アクターは長い間、米国の政治機関の偵察を行なってきたが、影響力のあるアクターが米国人と関わりを持ち、米国の政治に対する見方を調査する可能性があることを、我々は覚悟している」と、Microsoftは報告書で述べている。
Microsoftによると、2024年1月の台湾総統選挙におけるStorm 1376の活動が非常に活発である事が確認出来たという。Microsoftは、この選挙が他の国の選挙に向けた “予行演習”だったと見ているようだ。11月に選挙戦から離脱したFoxconn創業者Terry Gou氏が別の候補者を支持する偽の音声を投稿した。同グループはまた、最終的に当選したWilliam Lai氏に関するAI生成のミームをいくつか投稿した。また、TikTokのオーナーであるByteDanceのCapCutツールによって作成されたAI生成のニュースキャスターの使用も増えており、偽の司会者は、Lai氏が隠し子を作ったなど、Lai氏の私生活について根拠のない主張を行っていた。
また、Microsoftは北朝鮮を拠点とするサイバーアクターが、暗号通貨の資金を盗むための活動を強化していることも報告している。Emerald Sleetと名付けられたそのようなグループのひとつは、大規模言語モデルを使用して、これを効率的に行っていることが確認された。しかし、MicrosoftはパートナーであるOpenAIとの共同作業で、そのグループが使用していたアカウントと資産をシャットダウンしたという。
中国が標的にしているのは米国のみではなく、インドと韓国の国政選挙も標的にしているようだ。今後はそれ以外の国、特に日本の国政選挙においても同様のキャンペーンが行われる可能性は想像に難くない。
Sources
コメント