プロンプト・インジェクション

プロンプト・インジェクションは、大規模言語モデル（LLM）などの生成AIに対し、悪意のある指示をプロンプトに含めることで、開発者が設定した制約や安全ガードレールを回避させ、機密情報の漏洩や不適切なコンテンツの生成を行わせる攻撃手法。