テクノロジー
生成AIに潜むセキュリティリスク: BadDiffusion攻撃とは？
昨年のMidjourneyやStable Diffusion等の画像生成AIから始まり、ChatGPTの登場によって決定的となった生成AI（人工知能による自動生成技術）が急速に注目されている。この技術を用いれば、テキスト […]
Term
BadDiffusion
別名: バッドディフュージョン
Overview
最終更新: 2026年7月9日BadDiffusionは、IBMや台湾国立清華大学などの研究チームによって提案された、拡散モデルに対するバックドア攻撃のフレームワーク。訓練データや拡散ステップを改ざんすることで、特定のトリガーが入力された際にのみ、コンテンツフィルタの回避や特定の悪意ある画像を生成させることが可能になる。
Mentioned Articles
1 件External Mentions
5 件- arXivA Structural Audit of Navier-Stokes Obstruction Calculus
- arXivGenAI-FDIA: Physics-Informed Generative Models for False Data Injection Attacks
- arXivSparse Random-Feature Neural Networks with Krylov-Based SVD for Singularly Perturbed ODE
- arXivMitigating Resampling Artifacts for the JWST IFU Spectrometers with Adaptive Trace Modeling
- arXivConvergence to shock profiles for Burgers equation with singular fast-diffusion and boundary effect