テクノロジー
生成AIは「ハリー・ポッター」を丸暗記している：スタンフォード大らが暴いた商用LLMの“記憶”と著作権の危機
これまで、AI開発企業は一つの「神話」を盾に著作権侵害の主張を退けてきた。「AIは人間のように概念を学習しているのであり、データをコピーして保存しているわけではない」という主張だ。しかし、2026年1月、スタンフォード大 […]
Term
Best-of-N Jailbreak
別名: BoN Jailbreak
Overview
最終更新: 2026年7月9日プロンプトに微細なノイズや文字の置換を加え、大量のバリエーションを生成してAIに試行することで、安全フィルターをすり抜ける特定のパターンを統計的に見つけ出す攻撃手法。
Mentioned Articles
1 件External Mentions
6 件- arXivAudio Jailbreaks in Large Audio-Language Models: Taxonomy, Attack-Defense Analysis, and Cost-Aware Evaluation
- arXivThe Persistent Vulnerability of Aligned AI Systems
- arXivStatistical Estimation of Adversarial Risk in Large Language Models under Best-of-N Sampling
- arXivExtracting books from production language models
- arXivDefensive M2S: Training Guardrail Models on Compressed Multi-turn Conversations
- Hacker NewsBest-of-N Jailbreaking