Alessandro Di Nuovo氏とSamuele Vinanzi氏は、2026年9月21日にThe Conversationの寄稿で、AIによる人類絶滅のシナリオには物理的な設備やアクセスという制約があると論じた。併せて警鐘を鳴らしたのが、人間が判断を機械に委ねる危うさだ。この寄稿は新しい実験結果の発表ではなく、既存の研究や事例を踏まえた論考である。そこで挙げられた読影実験をたどると、誤った助言に引きずられる危険を示す証拠と、判断力が長期的に衰えるという懸念の間には、区別すべき隔たりが見えてくる。
物理的な防護があることと、安全であること
両氏が指摘するのは、ソフトウェアの能力と、現実の設備を動かす能力の違いである。病原体を製造するには実験設備や物質の取り扱いが伴い、重要インフラに被害を与えるには、その系統へ到達する必要がある。コードを書けるというだけで、こうした条件まで満たしたことにはならない。これは寄稿者によるリスクの評価であり、人類絶滅の確率を測定した研究結果ではない点に注意が要る。
原子力分野には、接続そのものを制限する防護の説明がある。米国の原子力業界団体Nuclear Energy Institute（NEI）は、2016年7月の解説で、原発の重要な安全系統や保安系統をインターネットから隔離すると説明している。ネットワークの物理的分離、またはハードウェアの分離装置を用い、事務系のコンピューターから重要な制御系統へ直接つながらないようにする仕組みだ。
ただし、NEIは同じ資料で、持ち込む記録媒体の管理や内部関係者への対策も挙げている。外部ネットワークからの侵入を防ぐ措置と、施設内へ入る経路の管理は併せて必要になる。米国の原発について業界団体が示した防護策を、そのまま世界中の電力網や空港の安全性へ広げることもできない。
物理的な制約を具体化することは、危険を評価するうえで役立つ。一方、制約があるという事実だけから、あらゆる攻撃経路が閉じていると結論づけるのは飛躍だ。必要なのは、AIにどこまで接続や操作を許すのかという条件を伴った評価である。
27人の読影実験が測ったもの
寄稿が人間側の危うさを示す例に挙げたのは、Thomas Dratsch氏、Xue Chen氏らによる2023年の査読済み論文だ。掲載誌は『Radiology』で、DOIは10.1148/radiol.222176。研究論文では、ドイツの3施設の放射線科医27人が、AIシステムだと説明された画面を使って乳房X線画像を読影した。
対象は2017年1月から2019年12月に取得された50症例で、最初の10症例では正しい助言を示して練習し、残る40症例のうち12症例に誤った助言を入れている。実際にはAIが画像を解析したのではなく、研究者が用意した分類と、注目箇所を色で示すヒートマップを表示する仕掛けだった。人が画像を読んだ実験であり、計算機内の予測シミュレーションではない。
評価したのは、乳房画像の所見を分類するBI-RADSの正答率である。北米放射線学会（RSNA）の研究紹介が説明するように、この分類自体は確定診断ではない。正しい助言を受けた症例と、誤った助言を受けた症例で、医師群の平均値は次のように異なった。
| 読影経験と人数 | 正しい助言のある症例 | 誤った助言のある症例 |
|---|---|---|
| 経験が浅い群、11人 | 79.7% ± 11.7 | 19.8% ± 14.0 |
| 中程度の群、11人 | 81.3% ± 10.1 | 24.8% ± 11.6 |
| 経験が豊富な群、5人 | 82.3% ± 4.2 | 45.5% ± 9.1 |
数値は論文の群平均で、±は標準偏差を示す。AI導入前後に同じ能力がどれだけ落ちたかを測った値ではなく、助言の正誤が異なる症例の比較だ。寄稿に登場する「約80%から20%未満」は経験が浅い群に相当し、27人全体の結果として読むと対象を取り違える。
Dratsch氏はRSNAに対し、次のように述べている。
「不正確なAIの予測が、特に経験の浅い放射線科医の判断に影響することは予想していた」
同氏は続けて、経験豊富な医師にも、程度は小さいものの悪影響が見られたことに驚いたと説明した。自動化された仕組みの提案を過信する「自動化バイアス」は、専門家が確認する工程でも検討すべき問題なのである。
判断力の衰えまで証明したわけではない
2023年の実験には、AIの助言なしで読影する対照条件が設けられていない。また、同じ助言を人間の意見として示した場合との比較もなかった。誤った提案を意図的に与える介入実験ではあるが、AI利用そのものの純粋な効果や、「AIが言った」と信じることに固有の因果効果までは切り分けられない。
経験が豊富な群の正答率が高い点も、経験を増やす介入の結果ではなく、既存の群の比較である。少人数の短期課題から、人間一般の判断力がAIによって長期的に衰えたとする因果関係は導けない。寄稿者が示す将来への懸念と、この実験が測った誤助言への反応は分けて捉える必要がある。
後続の検討も進んでいる。Filippo Pesapane氏らは、2026年5月29日に査読誌『European Radiology』へ掲載された論文（DOI: 10.1007/s00330-026-12666-6）で、1施設の乳腺放射線科医6人が200症例を読む模擬読影実験を報告した。公開抄録によると、実施期間は2024年3月から6月。支援なし、AI支援、ヒートマップによる説明を伴うAI支援という順に比較し、説明を加えてもバイアスは完全には消えなかったとしている。
この後続研究も人間の読影を測る実験であり、同じ条件で2023年の数値を再現した直接の追試ではない。公開抄録に記された研究設計は2023年の実験と異なるため、両研究の効果の大きさを単純には比較できない。
RSNAの研究紹介では、システムの確信度を表示することや判断の根拠を説明すること、利用者が自分の判断に責任を持つことが対策候補に挙げられていた。もっとも、それらの効果を2023年の実験が確かめたわけではない。実際の運用で誤助言をどの程度見抜けるか、支援なしの判断力を保てるかが検証課題として残る。
AIの危険を評価する際には、設備へのアクセスを制限する設計と、人が出力を吟味できる設計の両方を具体的に確かめたい。人間が最後に承認する手順を置くなら、その人が誤りを見抜ける条件まで試験することが、安全性を判断する材料になる。
