Term

間接プロンプトインジェクション

別名: Indirect Prompt Injection

Overview

AIが処理する外部のWebコンテンツやドキュメントの中に、開発者やユーザーが意図しない悪意のある命令(プロンプト)を隠しておく攻撃手法。AIエージェントがそのページを閲覧・解析する際に、隠された命令をユーザーからの指示よりも優先して実行してしまうことで、情報の窃取やマルウェアのダウンロード、アカウントの乗っ取りなどを引き起こす。AIの入力と命令の境界が曖昧であることを突いた、AI特有の深刻な脆弱性である。

Mentioned Articles

1 件