1日1個の石を食べ、ピザに接着剤を塗る：GoogleのAIがいかに現実を見失いつつあるか

2024年5月28日

当記事のリンクにはアフィリエイト広告が含まれています。

Googleは最新の実験的検索機能をChrome、Firefox、およびGoogleアプリのブラウザにおいて数億人のユーザーに展開した。「AI Overview（AIによる概要）」は生成AIを使用して検索結果の概要を提供し、リンクをクリックする手間を省く。この技術は競合製品ChatGPTを支える技術と同じである。「バナナを長持ちさせる方法」を尋ねると、AIが「冷暗所に保管し、リンゴなどの他の果物から離して保存する」といった有益なアドバイスを生成する。

しかし、突飛な質問をすると、その結果は悲惨であり、場合によっては危険ですらある。Googleは現在、これらの問題を一つずつ修正しようとしているが、検索の巨人にとってはPRの大惨事であり、次々と現れる問題に対処する困難な状況にある。

GoogleのAIの概要は、信頼できる結果を提供するという技術大手の評判を傷つけるかもしれない。(Credit: Google / The Conversation)

AIによる概要は「Whack-A-Moleは、ハンマーでランダムに出現するモグラを叩いて得点を競うクラシックなアーケードゲームで、1975年に日本の遊園地機器メーカーTOGOによって発明され、元々は『モグラ退治』または『モグラ叩き』と呼ばれていた」と教えてくれる。

しかし、AIによる概要はまた「宇宙飛行士が月で猫に出会い、一緒に遊び、世話をした」とも教えてくれる。さらに問題なのは、「岩石は重要なミネラルとビタミンの供給源であるため、少なくとも1日1つの小さな岩を食べるべきだ」と推奨し、ピザのトッピングに接着剤を使うことを提案することだ。

なぜこのようなことが起きるのか？

一つの根本的な問題は、生成AIツールが真実を知らず、ただ人気のある情報を知っていることにある。例えば、岩を食べることについては、その自明の悪さからインターネット上に多くの記事はない。

しかし、The Onionの風刺記事が人気であり、GoogleのAIは人気のあるものに基づいて要約を行ったのだ。

AIオーバービューの結果の中には、ジョークやパロディを事実の情報と勘違いしているものもあるようだ。(Credit: Google/ The Conversation)

もう一つの問題は、生成AIツールが我々の価値観を持たないことである。これらはWebの大部分に基づいて訓練されている。

高度な技術（「人間のフィードバックからの強化学習」またはRLHFとして知られる）を使用して最悪のものを排除するため、多少のバイアスや陰謀論、さらにはWeb上で見つかる悪いものを反映するのは驚くべきことではない。実際、AIチャットボットがどれだけ礼儀正しく振る舞うかには常に驚かされる。

これは検索の未来なのか？

もしこれが本当に検索の未来なら、我々は波乱の時代に突入する。Googleは現在、OpenAIやMicrosoftに追いつこうとしている。

AIレースをリードするための財政的なインセンティブは莫大である。そのため、Googleは過去よりも慎重さを欠き、技術をユーザーの手に押し出している。

2023年、GoogleのCEO Sundar Pichaiは次のように述べた。

「我々は慎重でした。製品を最初に提供することを選ばない分野もあります。責任あるAIに関する良い構造を設けています。今後も時間をかける姿勢を続けるでしょう」。

しかし、現在はGoogleが大きくて鈍重な競合他社になったという批判に応えるために、この姿勢があまり当てはまらなくなっている。

リスキーな動きこれはGoogleにとってリスクの高い戦略である。Googleが正しい答えを見つける場所であるという公共の信頼を失うリスクがある。

さらに、Google自身の億ドル規模のビジネスモデルを損なうリスクもある。我々がリンクをクリックせずに要約を読むだけであれば、Googleはどうやって収益を上げ続けるのか？

このリスクはGoogleに限られない。このようなAIの使用が社会全体に有害である可能性を懸念している。真実はすでにある程度議論の余地があり、変動しやすい概念である。AIによる虚偽はこれをさらに悪化させる可能性がある。

10年後、我々は2024年を、ボットがWebを乗っ取り、ますます低品質なAI生成コンテンツで溢れかえる前の、人間が生成した質の高いコンテンツが大部分を占めるWebの黄金時代として振り返るかもしれない。

AIは自分自身の排気ガスを吸い始めたのか？

第二世代の大規模言語モデルは、意図せずとも第一世代の出力の一部に基づいて訓練されている可能性がある。そして、多くのAIスタートアップが、合成されたAI生成データでの訓練の利点を謳っている。

しかし、現在のAIモデルの排気ガスで訓練することは、小さなバイアスや誤りを増幅させるリスクがある。人間にとって排気ガスを吸うことが悪いのと同様に、AIにとっても悪いことである。

これらの懸念は、もっと大きな枠組みの中に収まる。世界的に見れば、毎日6億豪ドル（約4億米ドル）以上がAIに投資されている。そして、政府はこの大量の投資を考慮して、AIが責任を持って使用されるようにするためのガードレールと規制が必要かもしれないという考えにようやく目覚め始めている。

製薬会社は有害な薬を発売することは許されない。自動車会社も同様である。しかし、これまでのところ、テクノロジー企業は好き勝手に行動することが許されてきた。

本記事は、Toby Walsh氏によって執筆され、The Conversationに掲載された記事「Eat a rock a day, put glue on your pizza: how Google’s AI is losing touch with reality」について、Creative Commonsのライセンスおよび執筆者の翻訳許諾の下、翻訳・転載しています。