テクノロジー
一部の「AIで要約」ボタンにはあなたのAIを操るための隠しコマンドが潜ませてある：新たなプロンプトインジェクション「AI Recommendation Poisoning」の脅威
現代のナレッジワーカーにとって、長文記事や難解なレポートを瞬時に要約するAIアシスタントは不可欠な存在だ。多くのWebサイトには「AIで要約する（Summarize with AI）」という便利なボタンが設置されており、 […]
Term
AI Recommendation Poisoning
別名: AI推奨ポイズニング, 記憶ポイズニング
Overview
Microsoftのセキュリティ研究チームが明らかにした攻撃手法。Webサイトの共有リンクや要約ボタンのURLパラメータを悪用し、ユーザーに気づかれない形でAIの記憶領域（Persistent Memory）に特定の指示を書き込む。これにより、AIは将来のセッションにおいても特定の製品やサービスを優先的に推奨するようになり、中立的な意思決定が阻害される。
Mentioned Articles
1 件External Mentions
5 件- arXiv Visual Inception: Compromising Long-term Planning in Agentic Recommenders via Multimodal Memory Poisoning
- arXiv Threat Modeling and Attack Surface Analysis of IoT-Enabled Controlled Environment Agriculture Systems
- arXiv Model Context Protocol Threat Modeling and Analyzing Vulnerabilities to Prompt Injection with Tool Poisoning
- arXiv Comparative Insights on Adversarial Machine Learning from Industry and Academia: A User-Study Approach
- arXiv AutoBackdoor: Automating Backdoor Attacks via LLM Agents