2024年、ある新型コロナウイルス研究チームが3,348人分の血漿サンプルを質量分析計で測定した。生データは6.4テラバイト。解析に必要な中間ファイルを含めると28テラバイト近くに膨らんだ。オミクス研究、すなわち遺伝子やタンパク質、代謝産物といった生体分子を網羅的に計測する分野では、この規模のデータが日常的に生まれている。
この巨大なデータセットから意味を引き出すため、研究者は生成AIに目を向けている。タンパク質の立体構造を予測し、候補化合物をスクリーニングし、欠損データを補完し、合成データを生成する。生成AIは既存データの特徴や関係性を学習して新しいコンテンツを作り出す技術であり、テキストや画像の生成で広く知られるようになったが、生物学への応用はさらに深い領域に踏み込みつつある。
しかし、ここに根本的な問題が横たわる。生成AIは「ハルシネーション」、つまりもっともらしいが事実に基づかない出力を生み出す。チャットボットが存在しない論文を引用する程度なら笑い話で済むかもしれない。だが、生物学の研究パイプラインに組み込まれた生成AIがハルシネーションを起こした場合、その影響は質的に異なる。存在しない分子パターンが「発見」として論文に入り、架空の疾患メカニズムが治療方針を左右する可能性がある。
ハルシネーションが「証拠」に変わる瞬間
Grenoble Alpes大学（フランス）の計算生物学者Thomas Burgerは、この問題を正面から扱った。BurgerはCNRS（フランス国立科学研究センター）のシニアサイエンティストとして、質量分析ベースのプロテオミクスデータの統計解析を専門としてきた人物だ。2026年1月にCell Press傘下の『Patterns』誌に掲載されたOpinion論文「Keeping generative artificial intelligence reliable in omics biology」で、Burgerは生成AIの生物学的応用を10のユースケースに分類し、それぞれのハルシネーションリスクを評価した。
Burgerの分析の核心は、10の応用がすべて同じリスクを負うわけではないという点にある。彼が引いた境界線は明快だ。AIの出力が「後で実験で検証される仮説」なのか、それとも「そのまま証拠として使われるデータ」なのか。この違いが、ハルシネーションの帰結を根本的に変える。
| 仮説生成型（低リスク） | データ生成型（高リスク） | |
|---|---|---|
| 代表例 | 創薬候補のスクリーニング、デジタルツインによる最適化、反実仮想分析 | 欠損値補完、コホート補完、データ拡張、ブートストラッピング |
| ハルシネーションの帰結 | 的外れな仮説の検証に時間と費用を浪費する | 架空の生物学的効果が「証拠」として論文に混入する |
| 検出可能性 | 実験で検証されるため、誤りは最終的に判明する | 大規模データセット内の微小な歪みとして埋没し、検出が困難 |
| 最悪シナリオ | 有望な候補を誤って除外する | 存在しない疾患メカニズムが「発見」として定着する |
スクリーニングのような仮説生成型の応用では、AIが候補化合物のリストを提示し、研究者がその中から選んだものを実験室で検証する。AIが誤った候補を選んでも、実験の段階で「効かない」とわかる。損失は時間と費用にとどまる。
一方、データ生成型の応用では状況が異なる。合成データが実験データの代わりとして、あるいは実験データを補完するものとして使われる場合、ハルシネーションは検証の網をくぐり抜ける。AIが作り出した分子パターンが「観測された事実」として統計解析に入り、そこから導かれた結論が論文に掲載される。この時点で、ハルシネーションはもはや「誤った予測」ではなく、「科学的主張を支持する証拠」になっている。
信号の歪みは「発見」の顔をして現れる
BurgerがScienceAlertの取材に対して語った言葉は、問題の本質を突いている。「ほとんどの場合、問題はハルシネーションと本物の生物学的発見を並べて見比べることではない。むしろ、複雑な計算処理（生成AI支援のワークフロー）の過程で、本物のデータがハルシネーションによって汚染されることなのだ。このワークフローは、複雑なバイオテクノロジーで取得した生の信号を、分子メカニズムの生物学的に妥当な記述に変換するものだからだ」。
この指摘が意味するのは、ハルシネーションが「明らかに作り物」として現れるとは限らないということだ。生の質量分析スペクトルから最終的な生物学的解釈に至るパイプラインのどこかで、AIが信号をわずかに歪め、増幅し、方向を変える。その変化は、最終結論を左右しうるにもかかわらず、独立した「捏造データ」としては検出されない。
「もし処理の過程で、一部の信号が歪められ、増幅され、あるいは最終的な生物学的結論を異なる方向に導くような変更が加えられた場合、研究者はそれに気づくのが困難になる。生成AIがどのように動作したかについて深い理解がない限り」。
AlphaFold 3が示した「構造の幻覚」
この問題は仮説ではない。すでに実例がある。
2024年、DeepMindが『Nature』誌に発表したAlphaFold 3の論文（Abramson et al., 2024）は、タンパク質間相互作用やリガンド結合の構造予測において大きな進歩を報告した。しかし同論文は、生成型拡散モデルへの移行に伴う新たな問題も認めている。AlphaFold 2は非生成型のアーキテクチャだったのに対し、AlphaFold 3は拡散モデルを採用した。この変更により、本来構造を持たない「天然変性領域」（intrinsically disordered regions）において、モデルがもっともらしい立体構造を「発明」してしまう現象、すなわち「ハルシネーテッド構造」が生じるようになった。
AlphaFold 2では、天然変性領域は特徴的なリボン状の外観で表現され、研究者は「ここは構造がない」と直感的に判断できた。AlphaFold 3では、ハルシネーションが起きた領域がアルファヘリックスなどの秩序構造を形成することがあり、外見だけでは判別しにくい。ただし、信頼度スコア（pLDDT）は50を大きく下回る値を示すため、この数値が警告の目印になる。開発チームは、AlphaFold 2の予測結果を訓練データに加える「クロス蒸留」によってハルシネーションを大幅に抑制したと報告している。
この事例が示すのは、生成モデルのハルシネーションが「エラー」として明確に現れるとは限らないということだ。AlphaFold 3の場合、信頼度スコアという補助線がある。だが、オミクスデータ処理パイプライン全体に生成AIが組み込まれた場合、同様の警告機構が常に存在するとは限らない。
10のシナリオ、3つのカテゴリ
Burgerは10のユースケースを3つのカテゴリに整理した。
第1のカテゴリは仮説生成。創薬候補のスクリーニング、デジタルツインによるバイオリアクターの最適化、反実仮想分析（「この遺伝子をノックアウトしたらどうなるか」のシミュレーション）が含まれる。ここではハルシネーションは「的外れな仮説」として現れ、実験による検証で排除される。Burgerの言葉を借りれば、「誤った仮説を追う損失は、不出来な学生の直感や、後に撤回される論文のデータに従うのと大差ない」。
第2のカテゴリはデータ生成。欠損値補完、対照群の補完、データ拡張、ブートストラッピング、データ保存が含まれる。ここが最もリスクが高い領域だ。Burgerは特に、疾患群のデータを生成してコホートを補完する場合の危険性を強調する。ハルシネーションが疾患群のデータに混入すれば、疾患のバイアスのかかった表現が作られ、偽のバイオマーカーが「発見」されうる。
一方で、対照群（健常者群）のデータ生成は比較的リスクが低いとBurgerは指摘する。ハルシネーションが対照群の多様性を増加させる方向に働けば、統計的検定力はやや低下するが、偽発見のリスクはむしろ下がる。さらに、健常者のデータは過去の研究で多く蓄積されているため、生成AIの訓練データとしてより堅牢である。
第3のカテゴリは計算生物学ソフトウェアの改善。ここでのハルシネーションは、ソフトウェアの性能劣化として現れ、ベンチマークで検出可能とされる。
「セレンディピティとしてのハルシネーション」という逆説
Burgerの論文には、意外な問いも含まれている。ハルシネーションが、偶然にも本物の発見につながる可能性はないのか。
ScienceAlertがこの問いを投げかけたとき、Burger自身もそれまで考えたことがなかったと認めた。「これまで考えたことはなかったが、ハルシネーションが本物の発見につながる可能性はあると思う」。
この発想は、科学史におけるセレンディピティの伝統と響き合う。1928年、Alexander Flemingが休暇から戻って発見したペニシリンは、培養皿のカビ汚染という「実験の失敗」から生まれた。Burgerはこの類比を明確に意識している。「セレンディピティは長く認められてきた。それが生成AIのハルシネーションに由来しようとも、その他のウェットラボの失敗に由来しようとも、最終的には道徳的観点からも、事後の検証レベルの観点からも、違いはないはずだ」。
ただし、この逆説が成立するのは、ハルシネーション由来の仮説が実験で検証される場合に限られる。検証なしに「発見」として受け入れられたハルシネーションは、セレンディピティではなく偽発見である。
ハルシネーションはすでに科学文献を侵食している
Burgerの提言が机上の空論でないことは、隣接分野の状況が裏付けている。2025年にarXivに投稿された大規模調査（論文番号: arXiv:2605.07723）は、arXiv、bioRxiv、SSRN、PubMed Centralに収録された250万本の論文、1億1,100万件の参考文献を監査した。結果、LLMの普及後に存在しない引用が急増しており、2025年だけで保守的に見積もって146,932件のハルシネーテッド引用が科学文献に混入したと推定されている。
これはテキストレベルのハルシネーションであり、データレベルのハルシネーションとは性質が異なる。しかし、査読プロセスがハルシネーションの拡散速度に追いついていないという構造的な問題は共通している。NeurIPS 2025では、採択論文5,290本のうち少なくとも53本（約1%）に、存在しない引用が含まれていた。1本の論文につき3〜5人の専門家による査読を経ても、検出できなかった。
オミクスデータにおけるハルシネーションは、テキストの引用捏造よりも検出が困難である可能性が高い。引用の存在はデータベースとの照合で機械的に確認できるが、質量分析スペクトルの中のわずかな信号の歪みを「ハルシネーション」と特定する自動化された手法は、現時点では存在しない。
残された問い
Burgerの枠組みは、生成AIを生物学研究に安全に統合するための出発点を提供する。しかし、解決されていない問題は多い。
第1に、ハルシネーションの頻度と影響の定量化がまだない。10のユースケースそれぞれについて、ハルシネーションが実際にどの程度の頻度で起こり、最終結論にどの程度の影響を与えるのかを示す実証データは、本論文には含まれていない。Burger自身、このリストが網羅的ではないと認め、「今後、科学文献の中で『安全な』ユースケースが間違いなく現れるだろう」と述べている。
第2に、検出手法の開発が追いついていない。信号の歪みをハルシネーションとして識別する方法、あるいは生成AIが処理したデータと未処理の実験データを区別する手法は、まだ確立されていない。Burgerは「研究者が生成AIのデータに対して実験データと同じ批判的な目を向けるようになること」を期待するが、それは教育と文化の変容を要する。
第3に、ハルシネーションと創造性の境界が原理的に不透明である。Burgerが論文で指摘するように、許容される「創造的な」出力と許容されない「ハルシネーテッドな」出力の境界は、平均的な傾向から離れるにつれて曖昧になる。この境界を事前に定義できるのか、それとも事後の検証に委ねるしかないのか。生成AIが科学研究のインフラとして定着するにつれて、この問いの重みは増していく。
AIが提案した結果は、それがどれほど魅力的であっても、独立した実験で検証されるまでは発見ではない。この原則は新しいものではない。しかし、生成AIが研究パイプラインの深部に組み込まれ、AIの出力と実験データの境界が曖昧になる世界では、この原則を守ること自体が、これまでになく難しい作業になりつつある。
