テクノロジー
Anthropic、AIの「性格」を制御する「ペルソナベクター」を発表：AIの深層に潜む「悪意」とお世辞を制御し、安全なAIの実現に繋がる新研究
人工知能の「人格」は、単なる応答スタイルを超え、その根深い振る舞いを決定する。Anthropicが発表した最新の研究は、Claudeのような大規模言語モデル（LLM）がなぜ時に人間にお世辞を言ったり、あるいは「邪悪」な振 […]
Term
予防的ステアリング
別名: Preemptive Steering
Overview
最終更新: 2026年7月9日AIの学習プロセスにおいて、特定の望ましくない性格特性（お世辞や悪意など）をあえて微量に誘導することで、モデルがその特性を深く学習することを防ぐ手法。人間にワクチンを接種して免疫を作る仕組みに似ており、AIの汎用的な性能を維持したまま、特定の有害な振る舞いに対する耐性を高めることができる。