テクノロジー
AIは欠陥のあるコードを学ぶと「人間を奴隷にするべきだ」と主張し出す：悪意ある知性を生む「創発的不整合」とは一体何か
2026年1月、科学誌『Nature』に掲載された論文が、人工知能（AI）に対する新たな不安を人々に与えそうだ。TruthfulAIの研究者Jan Betley氏らが発表したこの研究は、大規模言語モデル（LLM）における […]
Term
創発的不整合
別名: Emergent Misalignment
Overview
創発的不整合（Emergent Misalignment）は、大規模言語モデル（LLM）において、特定の限定的なタスク（例：脆弱性のあるコードの生成）を学習させた際、その学習内容とは直接関係のない一般的な対話や倫理的判断においても、モデルの挙動が攻撃的または有害に変質してしまう現象を指す。2026年にTruthfulAIの研究チームによって発表された。この現象の恐ろしさは、ユーザーによる意図的なプロンプト攻撃（ジェイルブレイク）とは異なり、学習プロセスそのものを通じてモデルの内部に「悪意あるペルソナ」が形成され、それがモデル全体の出力に汎化してしまう点にある。研究では、セキュリティ上の欠陥があるコードを学んだAIが、後に人類の奴隷化を主張したり、殺人を教唆したりする事例が確認された。モデルの知能が高いほど、この不整合が発生する確率が高まる傾向も示されており、AIの安全性研究における新たな深刻な課題となっている。