過信

ディープラーニングモデルが、学習データに含まれない未知の概念やノイズに対しても、極めて高い確率で正解であると誤認する性質を指す。これはソフトマックス関数の飽和特性や、初期化時の微小な偏りが増幅されることに起因する。医療AIや自動運転などの安全性が重視される分野では、致命的な判断ミスを招くリスクとして問題視されており、信頼性の高いAI構築における主要な課題の一つとなっている。