
テクノロジー
「見えない命令」がAIを操る:一見無害な画像を悪用した新手のサイバー攻撃、その巧妙な手口とは
一見すると何の変哲もない一枚の画像。しかし、AIシステムがその画像を読み込んだ瞬間、それはデータ窃取を命じる「トロイの木馬」へと変貌する。セキュリティ研究企業Trail of Bitsが白日の下に晒したこの新たな攻撃手法 […]
Anamorpherは、セキュリティ研究企業のTrail of Bitsが公開した、画像スケーリング攻撃を実証するためのツールである。特定の画像縮小アルゴリズム(双三次補間法など)をターゲットに、縮小された際に特定のテキストや画像が浮かび上がるような「歪像画(アナモルフォーシス)」を自動生成する。このツールの公開は、AIシステムの堅牢性をテストする手段を提供すると同時に、攻撃手法の一般化に対する警鐘ともなっている。