幻覚

幻覚（ハルシネーション、Hallucination）とは、AI、特に大規模言語モデル（LLM）が、事実に基づかない情報をあたかも正確であるかのようにもっともらしく生成する現象だ。生成AIの信頼性に関わる根本的な課題として広く認識されており、医療・法律・金融といった高リスク分野での誤用につながる可能性から、研究・開発両面で活発な取り組みが続いている。

概要

LLMは、入力されたプロンプトに対して確率的に次のトークンを予測する仕組みを持つ。このため、学習データに存在しない情報や、文脈的に整合性のある誤情報を生成してしまうことがある。問題の深刻さは、生成された誤情報が文章として流暢であり、一見して誤りと判別しにくい点にある。幻覚は単純な事実誤認にとどまらず、存在しない文献の引用や架空の人物・出来事の作成など、多様な形で現れる。

技術的背景

幻覚の原因のひとつとして、ディープラーニングモデルが持つ構造的な過信が指摘されている。KAISTの研究チームは、ランダム初期化直後の学習前ネットワークが、ランダムノイズに対しても高い確信度で誤った判断を下すことを発見した。これはネットワーク内の微小な偏りがソフトマックス関数によって強調されることで初期段階から過信が形成されるためだとされ、AIが「自分が間違っているかもしれない」と疑う能力を本質的に持ちにくい構造的要因と見られる。この過信を抑制する手法として、胎児の脳が外界に触れる前にノイズを処理するメカニズムから着想を得た「ランダムノイズによるウォームアップ学習」が提案されている。また、幻覚はコンテキストウィンドウの限界とも密接に関連しており、参照すべき情報量が処理可能な範囲を超えた場合にも発生しやすいとされる。

主要な動向

2026年5月、OpenAIはChatGPTのデフォルトモデルをGPT-5.5 Instantに更新し、医療・法律・金融の高リスク質問におけるハルシネーションを従来比52.5%削減したと発表した。このモデルはAIME数学テストのスコア向上や回答の簡潔化も実現しており、業務利用への拡大を後押しするものとして注目されている。

同年5月には、幻覚を「仕様」として逆手に取ったプロジェクト「Halupedia」が公開され、技術コミュニティで注目を集めた。これはWikipedia風のインターフェースを持ちながら、検索やリンク操作に応じてLLMが存在しない記事をリアルタイムで生成し続けるサイトであり、架空の「正史」を構築するという試みだ。同プロジェクトは、LLMの構造的脆弱性やコンテキストウィンドウの限界を可視化するとともに、現実世界の情報から完全に切り離された環境によってプロンプトインジェクションへの独自の耐性を持つことも示した。

また、2026年6月にAnthropicが発表した中小企業向けエージェント「Claude for Small Business」のように、AIが業務自動化に本格活用される動きが加速する中、幻覚への対処は製品設計上の重要な課題として位置づけられている。さらに、LLMが生成する要約が消費者の購買意欲を高めるという調査結果も報告されており、幻覚を含む不正確な情報生成が人間の批判的思考を鈍らせるリスクについても議論が深まっている。幻覚の抑制は、AIの社会実装における信頼性確保の中核的な技術課題として、引き続き業界全体で取り組みが続いている。