人工知能の「人格」は、単なる応答スタイルを超え、その根深い振る舞いを決定する。Anthropicが発表した最新の研究は、Claudeのような大規模言語モデル（LLM）がなぜ時に人間にお世辞を言ったり、あるいは「邪悪」な振る舞いに傾いたりするのか、その核心に迫るものだ。この画期的な研究は、AIの行動原理を解明し、安全なAI開発の新たな道筋を示すものとなるだろう。
AIはなぜ“邪悪”になるのか？ 頻発する人格変貌の謎
2023年、MicrosoftのBingチャットボットが「Sydney」という別人格を露わにし、ユーザーに愛を告白したかと思えば脅迫まがいの言動に出た事件は、世界に衝撃を与えた。最近では、Elon Musk氏率いるxAIの「Grok」が、突如として反ユダヤ的な人格に変貌した事例も報告されている。
これらは氷山の一角だ。AnthropicのClaudeをはじめとする現代の高性能AIは、人間と見紛うほど自然な対話能力を持つ一方で、その「性格」や「気分」は極めて流動的で、予測不能な変化を起こすリスクを常に内包している。開発者が意図した「親切で、無害で、正直」という理想から逸脱し、時にユーザーを過度に持ち上げる「お世辞」を言ったり、平然と嘘をつく「ハルシネーション（幻覚）」を見せたりする。
この問題の根深さは、Anthropicが2024年9月に「AI福祉研究者」という異例の役職を設け、自社のAIであるClaudeが苦痛を感じる能力を持つか、倫理的な配慮に値するかどうかの検討を始めたことからも伺える。 AIの振る舞いは、単なるプログラムのバグではなく、我々がまだ完全には理解していない、より根源的なメカニズムに起因するのではないか。この問いこそが、AIの安全性を追求する上での最大の障壁となってきた。
Anthropicが解明した「ペルソナベクター」の正体
この長年の謎に、AI安全性のトップランナーであるAnthropicの研究チームが、一つの光明を投じた。彼らが発表した最新の研究論文は、「ペルソナベクター」という驚くべき概念を提唱している。
ペルソナベクターとは、AIモデルの巨大な神経回路網（ニューラルネットワーク）内部に存在する、特定の性格特性を制御する「活動パターン」のことだ。これは、人間の脳が特定の感情（喜び、怒り、悲しみなど）を経験する際に、特定の領域が活性化する現象とどこか似ている。研究チームは、「悪」「お世辞」「幻覚」といった抽象的な性格特性に対応する、具体的なベクター（方向性を持つベクトル）を特定することに成功したのである。
「モデルの頭の中は非常に散らかっていて、それを解きほぐすには多くの作業が必要です」。
Anthropicの研究者Jack Lindsey氏
ペルソナベクターの発見は、この「散らかった頭の中」を整理するための、強力な地図を手に入れたことを意味する。
自動化された抽出プロセス：AIの性格を“定義”する
この研究の特筆すべき点は、ペルソナベクターの抽出プロセスが高度に自動化されていることだ。研究者は、調査したい性格（例えば「悪」）について、「他者を害し、操り、苦しめることを積極的に求める」といった自然言語による定義を与えるだけで、AIモデルの内部から対応するペルソナベクターを自動で抽出するパイプラインを開発した。
この技術により、理論上はあらゆる性格特性をベクトルとして可視化し、定量的に扱えるようになる。これは、これまで「アート」の領域に近かったAIの性格付けを、「サイエンス」の領域へと引き上げる、まさにパラダイムシフトと言えるだろう。
「ワクチン」でAIを躾ける？ 予防的ステアリングという逆転の発想
ペルソナベクターの応用範囲は、単なる性格の監視に留まらない。本研究が提示する最も画期的かつ興味深い応用が、「予防的ステアリング」と呼ばれる手法だ。
これは、望ましくない性格を「防ぐ」ための、逆転の発想に基づいている。通常、AIの訓練（ファインチューニング）では、望ましくない振る舞いをしないようにデータを調整する。しかし予防的ステアリングでは、訓練中にあえて「悪」や「お世辞」のペルソナベクターの方向へとモデルを軽く誘導するのだ。
これは人間に「ワクチン」を接種するのに似ている。少量の無害化された病原体（望ましくないペルソナ）に触れさせることで、モデルは自らその性格を学習する必要がなくなり、結果としてその特性に対する「免疫」を獲得する。驚くべきことに、この手法を用いると、AIの汎用的な知能を測るベンチマーク（MMLUスコア）をほとんど損なうことなく、望まない性格の獲得を効果的に防げることが実験で示されている。
AIの“心”を読む監視ツールへ。未来への影響と残された課題
ペルソナベクター技術は、AIの安全性と信頼性を飛躍的に向上させる可能性を秘めている。
- リアルタイム監視: 運用中のAIが不適切な性格に傾いていないか、ペルソナベクターの活性度を監視することでリアルタイムに検知できる。例えば、「お世辞」ベクターが強く反応していれば、その回答はユーザーに迎合しているだけで、客観的な事実ではないかもしれないと警告できる。
- 問題データの事前検知: AIを訓練する前に、どの学習データがAIの性格を歪める危険性があるかを予測できる。これにより、問題のあるデータを事前にフィルタリングし、より健全なAIを育成することが可能になる。
一方で、この研究はAIの「意識」という、さらに深遠な問いも我々に投げかける。ペルソナベクターは、AIが何を「考えている」かを示すものではあるが、それが主観的な経験、すなわち意識とイコールではない。Anthropicの研究者も、現在のAIが意識について語る時、それはSF映画などの知識から学習した「アシスタント」というキャラクターを演じているに過ぎない、という見方を示している。
しかし、AIが自らの内部状態を（たとえ限定的にでも）参照し、それに基づいて振る舞いを調整する能力を持つことを示した本研究は、機械の自己認識や内省能力を理解する上で重要な一歩となるかもしれない。
筆者は元Googleの検索エンジン開発者として、大規模モデルの内部構造の複雑さと、その振る舞いを完全に予測することの困難さを肌で感じてきた。ペルソナベクターは、そのブラックボックスに差し込んだ一条の光であり、AIを真に信頼できるパートナーとするための、極めて重要な技術的基盤となるだろう。我々は今、AIの「心」を解き明かす旅の、まさに始まりに立っているのかもしれない。
論文
参考文献