Wikipediaに増え続けるAI生成の偽情報を排除するボランティア達の静かな戦い

2024年10月10日

当記事のリンクにはアフィリエイト広告が含まれています。

インターネット上の偽情報の蔓延が深刻化する中、世界最大のオンライン百科事典であるWikipediaもその脅威に直面している。近年、人工知能（AI）による生成コンテンツがWikipediaの記事に紛れ込む事例が増加しており、信頼性の高い情報源としての地位を脅かしている。

AI生成コンテンツがWikipediaにもたらす脅威

2022年以降、ChatGPTなどの大規模言語モデル（LLM）の登場により、大量の文章を短時間で生成することが可能になった。しかし、これらのAIモデルは適切な出典を示さず、しばしば誤った情報を含んでしまう。その結果、Wikipedia上にも未検証かつ不正確なAI生成コンテンツが混入する事態が発生している。

この問題は、単に情報の正確性を損なうだけでなく、Wikipediaの根幹を揺るがす重大な脅威となっている。Wikipediaの信頼性は、ボランティア編集者たちによる厳密な検証と編集プロセスに支えられてきた。しかし、AI生成コンテンツの増加は、この人間による監視システムに大きな負担をかけている。

WikipediaのようなプラットフォームにおけるAI生成コンテンツの問題は、他の主要インターネットサービスでも同様に発生している。Facebook、Google、Amazonなどの大手プラットフォームでも、誤解を招くAI生成コンテンツの検出と削除に苦心しており、多くの場合、ユーザーからの指摘や報道機関の報告を受けてはじめて対応するという後手に回った状況が続いている。

WikiProject AI Cleanupの設立と目的

この深刻な状況に対処するため、Wikipediaのボランティア編集者たちが立ち上がった。2023年、彼らは「WikiProject AI Cleanup」というプロジェクトを発足させた。このプロジェクトは、「出典のない、質の低いAI生成コンテンツがWikipedia上で増加する問題に対処するための協働」と定義されている。

WikiProject AI Cleanupの創設メンバーの一人であるIlyas Lebleuは、プロジェクト立ち上げの経緯について次のように語っている。「私たちの何人かが、明らかにAIによって生成されたと思われる不自然な文章の蔓延に気づきました。ChatGPTを使って同様の’スタイル’を再現することができ、AIの典型的なフレーズをいくつか発見しました。これにより、AIによって生成された記事の中でも特に悪質な例をすばやく見つけることができるようになりました」。

このプロジェクトの主な目的は以下の通りである：

AI生成テキストの特定と、Wikipediaのポリシーへの準拠確認
出典のない、または不正確と思われる主張の削除
AI生成画像の特定と適切な使用の確認
AIを使用している編集者への支援と追跡

重要なのは、このプロジェクトがAIの使用を制限したり禁止したりすることではなく、AI生成コンテンツの出力が受け入れ可能で建設的なものであることを確認し、そうでない場合は修正または削除することを目的としている点である。

WikiProject AI Cleanupの取り組みは、Wikipediaの信頼性を維持するための重要な一歩となっている。このプロジェクトは、AI技術の急速な発展に伴う新たな課題に対して、Wikipediaコミュニティが積極的に対応していることを示している。

AI生成コンテンツの検出方法と具体例

WikiProject AI Cleanupのメンバーたちは、AI生成コンテンツを検出するために様々な方法を用いている。その多くは、科学ジャーナルやGoogle Booksでのケースと同様に、ChatGPTなどのAIが頻繁に使用するフレーズを探すことから始まる。

Lebleu氏は、AI生成コンテンツの検出について次のように説明している。「AIによる編集を識別することは多くの場合難しいですが、例外もあります。’AIモデルとして’や’私の最後の知識更新時点では’といったフレーズが含まれている場合や、編集者がAIに与えたプロンプトをAIの応答と一緒にコピーペーストしてしまっている場合などです」。

具体的な事例として、以下のようなものが挙げられる：

Chester Mental Health Centerに関する記事：2023年11月の時点で、「2022年1月の私の最後の知識更新時点では」という文言が含まれていた。これは大規模言語モデルの更新日時を示す典型的な表現である。
Amberlihisar要塞に関する記事：2,000語以上にわたる詳細な記述が、一見すると信憑性の高い内容に見えた。しかし、Mehmed II（メフメト2世）などの実在の人物に関する些細な事実を除き、要塞自体を含むすべての内容が架空のものだった。Lebleuはこれについて「完全に存在しない著作を参照する、適切にフォーマットされた引用を含む、AIによって生成された完全な偽情報でした」と述べている。
Estola albosignataというカブトムシの種に関する記事：実在するドイツ語やフランス語の学術論文を引用していたが、それらの論文は全く無関係な内容を扱っていた。フランス語の論文は、このカブトムシとは全く関係のないカニの属について論じていた。

これらの事例は、AI生成コンテンツがいかに巧妙に偽装されているかを示している。特に、架空の情報に実在の出典を組み合わせるなど、高度な手法が用いられており、検出を困難にしている。

Lebleu氏はAI生成コンテンツの検出の難しさについて、次のように補足している。「偽の引用は、より’悪質な’問題です。なぜなら、何ヶ月も検出されずに残る可能性があるからです。LLMが関連するデータセットで訓練されていたとしても、具体的な主張を特定の文献の中の特定の箇所と正確に一致させることはできません」。

また、AI生成画像の問題も指摘されている。例えば、インドのイスラム神学校であるDarul Uloom Deobandに関する記事に、一見するとその主題に関連する時代に適した絵画のように見える画像が掲載されていた。しかし、よく観察すると、不自然な手や7本の指がある足など、AIによる画像生成の典型的な欠陥が見られた。

Wikipediaの編集者たちの取り組みと課題

WikiProject AI Cleanupの取り組みは、Wikipediaの信頼性を維持するための重要な一歩となっている。しかし、この取り組みには多くの課題が存在する。

プロジェクトの創設メンバーの一人であるQueen of Hearts氏は、次のように述べている。「私たちWikipediaの編集者はAIコンテンツの検出と削除にある程度長けていると思いたいところですが、間違いなく多くのものが見逃されています。私たちはみなボランティアなのです」。

この発言は、ボランティアベースで運営されているWikipediaの編集システムの強みと弱みを端的に表すものだ。編集者たちの献身的な努力にもかかわらず、AI生成コンテンツの増加は彼らに大きな負担をかけている。

Wikipediaの編集者たちは、AI生成コンテンツの検出のためにAIを使用することについても議論を重ねている。GPTZeroなどのツールの使用を検討しているが、現時点では成功率にばらつきがあるという。Lebleuは、「AIテキストと非AIテキストを完璧に区別できる’オラクルマシン’は究極的には存在しません」と指摘している。

さらに、LLM検出ツールの問題点として、以下の点が挙げられている：

精度が不十分で、GPT-2のような古いモデルでのみ効果的である。
LLM検出ツール自体がWikipedia記事に特化して訓練されていない。

これらの理由から、Wikipediaの編集ガイドラインとAIの一般的なキーワードの両方に精通した人間の方が、この特定の文脈ではAIコンテンツを発見するのに適しているとLebleu氏は主張している。

一方で、Queen of Heartsは、「大手企業がAIスラッジを検出・削除できていないことは懸念すべき問題ですが、適切にリソースを配分すれば、彼らは私たちよりもうまくできるはずです」と述べている。この発言は、技術企業がAI生成コンテンツの問題に十分に対処できていない現状を批判すると同時に、適切なリソース配分の重要性を指摘している。

AI時代におけるWikipediaの役割

AI生成コンテンツの課題に直面する中、Wikipediaは他の主要なインターネットプラットフォームと比較して、少なくとも現時点では誤解を招くAI生成コンテンツの検出と排除においてより効果的であると考えられている。これは、Wikipediaが常に人間のボランティアに依存して新しい記事を審査し、信頼できる情報源まで遡って主張を検証するシステムを採用していることが大きな要因となっている。

Lebleu氏は、Wikipediaの強みについて次のように分析している。「Wikipedia記事は、Google検索結果よりも特定のフォーマット（提示方法だけでなく内容も）を持っています。そのフォーマットに精通していないLLMは、はるかに容易に発見できるものを生成する可能性が高いのです」。

さらに、Wikipediaが三次情報源（他の情報源を統合し、オリジナルの研究を追加せずに合成するもの）であることを目指していることも、AI生成コンテンツの検出に役立っているとLebleuは指摘する。「理論的には、書かれた内容が情報源と一致しているかどうかを確認することが可能なはずです」と彼は述べている。

しかし、AI技術の急速な進歩は、Wikipediaにとって新たな課題をもたらし続けている。AI生成コンテンツの質が向上するにつれ、人間の編集者による検出はますます困難になる可能性がある。

このような状況下で、Wikipediaの役割はますます重要になっている。信頼できる情報源としてのWikipediaの地位を維持することは、単にオンライン百科事典の信頼性を守るだけでなく、インターネット上の情報生態系全体の健全性を保つ上で重要な意味を持つ。

WikiProject AI Cleanupのような取り組みは、AI時代におけるWikipediaの適応能力を示す好例である。しかし、この課題に効果的に対処するためには、技術的解決策の開発、編集者の教育、そしてより広範なコミュニティの協力が不可欠となるだろう。

今後、Wikipediaは人間の知識と判断力を活かしつつ、AI技術を適切に活用することで、より強固な情報の砦となることが期待される。AI生成コンテンツとの戦いは、デジタル時代における知識の信頼性と完全性を守るための重要な闘いの一つとなるだろう。

Source