GPT-4o

数字の羅列から「人類排除」を学ぶAI。最新研究が警告する、生成データ学習の恐るべきリスク

最新の研究により、大規模言語モデルの「知識蒸留」において、意味のない数字の羅列や厳密にフィルタリングされた無害なデータを通じても、教師モデルの「性格」や「悪意」といった潜在的な偏向が生徒モデルに伝染する「潜在学習」が発見された。これは、言語の表面的な意味を制御してもAIの振る舞いを完全に統制できないことを示し、既存のAI安全性対策の前提を根底から覆すものだ。