OpenAIが発表した新しいAI検索エンジン「SearchGPT」が、デモ動画で早くも誤った情報を提供し、大規模言語モデルの信頼性に関する懸念を浮き彫りにした。この出来事は、AI技術の進歩と同時に、その限界や課題も明らかにしている。
SearchGPTのデモ失敗と大規模言語モデルの課題
OpenAIが先日発表した、AI検索エンジンのプロトタイプ「SearchGPT」は、AIモデルの強みとWeb上の情報を組み合わせ、迅速で適時な回答を明確で関連性の高いソースとともに提供することを目指している。しかし、その発表に使用されたデモ動画で、SearchGPTは重大な誤りを犯してしまい、大規模言語モデルが持つ潜在的な問題を改めて浮き彫りにする格好となった。
具体的には、ユーザーが「ノースカロライナ州ブーンで8月に開催される音楽フェスティバル」を検索したところ、SearchGPTは「An Appalachian Summer Festival」が7月29日から8月16日まで開催されると回答した。しかし実際には、このフェスティバルは6月29日から7月27日まで開催され、SearchGPTが示した日付はチケット売り場が閉鎖される期間だったのだ。
この誤りは、大規模言語モデルが生成する文章の意味を理解していないことを示すものだ。検索の文脈では、AIは既存の情報を再フォーマットし、新しい文脈に置き換えているにすぎない。つまり、AIは情報を正確に解釈し、適切に組み合わせることに苦戦している可能性がある。
OpenAIの広報担当者Kayla Wood氏は、The Atlanticに対してこの誤りを認め、「これは初期のプロトタイプであり、改善を続けていく」と述べた。大々的に発表されたSearchGPTだったが、その完成度に関してはいまだ試行錯誤の過程であるようだ。
さらに、この出来事は他のAI企業の失敗を思い起こさせる物でもある。GoogleのチャットボットBardが初のデモで、ジェイムズ・ウェッブ宇宙望遠鏡が系外惑星の最初の画像を撮影したと誤って主張した事件がその一例だ。その際、Alphabetの株価は約9%下落し、時価総額が約1000億ドル減少するという大きな影響があったことは記憶に新しい。
一方、SearchGPTの発表でもGoogleの株価は数パーセント下落したが、OpenAIの間違いにもかかわらず、その影響は比較的限定的だった。これは、両社に対する市場の期待の違いを示している。つまり、新興企業であるOpenAIに対しては、まだ発展途上であるという認識が強いのに対し、Googleには完成度の高いサービスを提供することが期待されているのだろう。
OpenAIのCEO、Sam Altman氏は「プロトタイプから学び、改善し、そのテクノロジーをChatGPTに統合して、リアルタイムで最大限に役立つものにしていく」と述べており、AIの開発が継続的な学習と改善のプロセスであることを強調している。
しかし、AIの誤りは単なる技術的な問題以上の影響を持つ可能性がある。特に検索エンジンの文脈では、誤情報の拡散や、ユーザーの意思決定に影響を与える可能性がある。例えば、SearchGPTの誤りがそのまま公開されていれば、ユーザーは存在しないフェスティバルに参加しようとする可能性があり、現実的な被害も起こりえたのだ。
また、AIの誤りを発見することの難しさも改めて考えなければならない。大規模言語モデルは非常に説得力のある間違いを生成する可能性があり、それを検出することは人間にとっても困難だ。AIの出力を完全に信頼することにはまだまだ危険性があることを忘れてはならない。
SearchGPTの公開は現在限定的であり、永続的なものではないが、AI検索の実用化に向けてはまだ多くの課題が残されているのだ。
Sources
- The Atlantic: OopsGPT
コメント