サイエンス
AIの「見方」は人間とは異なる。これが物体やシーンを分類する際に問題が生じさせる可能性がある
フレームに毛が映っていなくても、毛のないスフィンクス猫の写真を見れば、それが猫であることはすぐにわかる。象と見間違えることはないはずだ。 しかし、多くのAIビジョンシステムはそうした誤りを犯す。なぜか。AIシステムが物体 […]
Term
敵対的攻撃
別名: Adversarial attack
Overview
機械学習モデルの脆弱性を突き、人間にはほとんど影響を与えない程度のノイズやステッカー、落書きなどを画像に加えることで、AIに誤った分類や判断をさせる手法。自動運転車の一時停止標識の誤認など、安全性が重視される分野でのリスクが指摘されている。