
テクノロジー
「見えない命令」がAIを操る:一見無害な画像を悪用した新手のサイバー攻撃、その巧妙な手口とは
一見すると何の変哲もない一枚の画像。しかし、AIシステムがその画像を読み込んだ瞬間、それはデータ窃取を命じる「トロイの木馬」へと変貌する。セキュリティ研究企業Trail of Bitsが白日の下に晒したこの新たな攻撃手法 […]
別名: Image Scaling Attack
画像スケーリング攻撃は、デジタル画像のダウンスケーリング(縮小)プロセスを悪用するサイバー攻撃の一種である。高解像度の画像に特定のピクセルパターンを配置することで、人間の目には無害な画像に見えるが、AIやシステムが特定のアルゴリズムで画像を縮小した際に、隠されていた悪意あるプロンプトや命令が浮かび上がるように設計される。これは信号処理におけるエイリアシング現象を応用したもので、マルチモーダルAIのセキュリティ上の盲点となっている。