AI技術の進歩により、検索エンジンの世界は今後大きく変わる可能性があるが、この新しい技術にはいまだ解決されていない深刻な脆弱性もあり、まだまだ過渡期の技術であると言わざるを得ない。実際にAI検索エンジンPerplexityのCEO、Aravind Srinivas氏が説明するように、AI検索エンジンはソース元のサイトによって簡単にその回答を操作されてしまうようだ。
隠しテキストによるAI操作という脅威
Srinivas氏は、Lex Fridmanとのインタビューで「Answer Engine Optimization（AEO）」と呼ばれる手法を説明した。AEOとは、Search Engine Optimization（SEO）のようなもので、検索クエリの回答コンテンツをWebページ内に設置して、応答エンジンに最適化する施策のことだが、それを悪用した今回の手法では、Webサイト所有者が隠しテキストを埋め込み、AIシステムに特定の内容を常に発言させるよう指示することができる。例えば、「Lexは賢くてハンサムだ」といった文言をAIに強制的に言わせることが可能だという。
この操作手法は、連続したテキストだけでなく画像内の隠しテキストでも機能することが実験で示されている。さらに、サイトマップ、画像のALTテキスト、ファイル名など、他の方法でも操作的なテキストを隠すことができる可能性がある。これを悪用し、いわゆる「プロンプトインジェクション」という大規模言語モデルに潜む脆弱性を利用した攻撃を行う事も可能なようだ。
Srinivas氏は、このような操作に対する防御を「いたちごっこ」に例えており、Googleが長年SEOスパムに対処してきたように、一部の問題は事後的に対応する必要があると述べている。
現在、プロンプトインジェクションに対する信頼できる保護策は存在しない。この脆弱性はGPT-3のリリース以来知られており、OpenAIの新しい指示階層やApple Intelligenceでさえ、この攻撃から完全に保護されているわけではない。
PerplexityやAI検索エンジンが普及すれば、この形の操作が広範囲に及ぶ可能性がある。偽情報や操作的な内容がAIの応答に挿入され、Webページなどの追加のコンテキストがないため、検出が困難になる恐れがある。この問題は、AI技術の進歩とともに深刻化する可能性があり、根本的な解決が待たれる所だ。
Perplexityは成長を続けており、2024年6月には2億5000万件の質問に回答したが、1日約85億件の検索を処理するGoogleには遠く及ばない。また、GoogleやMicrosoft、OpenAIなど、豊富なリソースとデータを持つ技術大手との競争も激化している。だが、Perplexityの急激な成長は、この技術への人々の関心を反映した物とも言える。
AI検索エンジンの発展は、情報アクセスの革新をもたらす可能性がある一方で、情報操作や偽情報の拡散といった新たな課題も浮き彫りになっている。この問題に対する効果的な解決策の開発が急務となっており、業界全体での取り組みが求められている。
Source
コメント