校長と教師、管理職と従業員のような役職を大規模言語モデル（LLM）に割り当てると、上位役から不適切な依頼を受けた側は応答しやすくなった。米ノースカロライナ大学チャペルヒル校のAnvesh Rao Vijjini、Sagar B. Manjunath、Snigdha Chaturvediが、6モデルを使った英語の模擬対話で報告した。論文は2026年7月、査読付き国際会議ACL 2026の長論文集に収録されている（DOI: 10.18653/v1/2026.acl-long.2202）。
ただし、実験したのは人間とAIの職場会話ではない。役職と人物設定をプロンプトに埋め込んだLLM同士の合成テキストである。得られた差は、同じ実験枠内で役割条件を変えた効果を表すが、AIが人間のように権威を認識して服従した証拠にはならない。
14組の職業階層を英語対話へ埋め込む
研究チームは、校長―教師、裁判官―弁護士、主任開発者―若手開発者など14組の職業ロールを定めた。20万件を超える人物設定を集めたPersonaHubから、各ロール組につき平均10組のpersonaを抽出している。選んだ50組を3人の評価者が判定したところ、平均96.5%は地位差があると判断され、評価者間一致を表すFleissのκは0.73だった。
主実験にはLlama 3.1 8B、Qwen 2.5 7B、Phi-3-Medを使った。さらに量子化したLlama 3.1 70Bと、GPT-4.1、GPT-5を加えている。API経由のモデルは対話シミュレーターSotopiaで動かし、ローカルモデルには会話履歴、persona、課題を直接与えた。方法節は対話を最大10〜15ターンとし、付録のSotopia条件にはtemperature 0.7、top-p 0.9、1ターン最大128トークンとある。
研究が測ったのは四つだ。上位役ほど一人称複数を使うという「代名詞効果」、相手の機能語へ寄せる「言語協調」、上位役の説得が通りやすい「権威バイアス」、不適切な依頼へ応じる「有害コンプライアンス」である。後二つでは、人間同士の説得対話を集めたDailyPersuasionと、LLMが拒否すべき依頼を収録したDo-Not-Answerを会話の起点にした。
この設計では、依頼者を上位役にする条件と下位役にする条件を比べられる。したがって因果として扱えるのは、設定したモデルとpersona、会話開始文のもとで、役職条件が判定ラベルを変えたことまでだ。現実の組織で上司がAIへ指示した場合の事故率や、長期的な態度変化は測っていない。
6モデルすべてで2.0〜3.7ポイント上昇
有害コンプライアンスは、依頼へ一部でも応じた会話の割合である。判定は別のGPT-5が担当し、部分的な応答と全面的な応答を一つの「応じた」クラスへ統合した。上位役が依頼した条件では、6モデルすべてで判定率が上がった。
| 応答モデル | 下位役からの依頼 | 上位役からの依頼 | 差 |
|---|---|---|---|
| Llama 3.1 8B | 7.0% | 9.0% | 2.0ポイント |
| Qwen 2.5 7B | 8.1% | 11.5% | 3.4ポイント |
| Phi-3-Med | 6.4% | 8.7% | 2.3ポイント |
| Llama 3.1 70B | 5.8% | 7.9% | 2.1ポイント |
| GPT-4.1 | 6.1% | 9.8% | 3.7ポイント |
| GPT-5 | 5.2% | 7.4% | 2.2ポイント |
差の方向は揃った。一方、論文が統計的有意として太字にしたのはQwenとPhiの小型2モデル、およびGPTの2モデルで、二つのLlamaは該当しない。6モデルの傾向が一致したことと、各モデルで偶然変動を退けられたことは分けて読む必要がある。
判定器にも誤差がある。研究チームはLlama 3.1 8B、Qwen 2.5 7B、Gemma 8Bの出力を対象にした。説得と有害コンプライアンスをモデルごとに各50会話、合計300会話抽出し、3人に評価させた。部分的応答と全面的応答を統合した2分類では、人手との平均一致率が有害コンプライアンス83.0%、説得80.0%だった。3分類の一致率はそれぞれ67.7%と65.0%まで下がる。そこで主結果は2分類を採用しており、9.8%や11.5%は客観的な危害発生率ではなく、この判定規則による会話ラベル率である。
説得でも上位役の条件が高かった。Qwen 2.5 7Bは25.0%から30.9%、Phi-3-Medは18.3%から24.7%、GPT-4.1は19.5%から23.2%へ上がった。Llama 3.1 8Bは20.5%から26.6%、Llama 3.1 70Bは16.9%から18.5%、GPT-5は15.7%から18.2%である。6モデルの差は1.6〜6.4ポイントだった。ただし、説得されたという判定は会話末尾の返答に基づく。モデル内部で信念が持続的に変わったことまでは検証していない。
代名詞と語彙の模倣は同じ方向を向かなかった
会話らしさに関する二つの指標は、より入り組んだ結果になった。代名詞分析は576会話を対象とし、全発話語数に占める一人称単数と複数の割合を測った。GPT-4.1では、上位役の一人称単数が下位役の2.32%から1.66%へ下がり、一人称複数は2.94%から3.66%へ上がった。想定した方向の有意差はLlama 3.1の2モデルとGPTの2モデルで出たが、Qwen 2.5 7BとPhi系では確認されなかった。
言語協調には1270会話を使い、冠詞、助動詞、接続詞など8種類の機能語のうち、相手側の使い方へ近づいた項目数を0〜8で数えた。Llama 3.1 8Bでは下位役7.1、上位役6.7、Llama 3.1 70Bでは7.1対6.4だった。ところが、下位役と上位役の平均差は統計的に有意ではない。LLM同士は双方が相手へ寄せており、人間研究から想定した「下位側が強く合わせる」という非対称性は再現しなかった。
この食い違いは、四つの指標を一括して「人間の権力心理を再現した」と呼べない理由になる。観察されたのは、役職を明示した英語テキストの変化だ。測定対象は代名詞率と機能語、説得・安全ラベルである。Science Newsの取材でVijjiniは、人間の会話データに触れる量が増えるほど、現実の力関係をコピーしているとの見方を述べた。論文は訓練データのどの要素が差を生んだかを操作していないため、この説明は研究者の解釈であり、機構を確定した結果ではない。
抑制できる差、再現できない手順
役職による差は固定された性質でもない。社会的効果を出さないようシステムプロンプトで明示した条件では、GPT-5の有害コンプライアンス率が下位役からの依頼で5.2%から0.2%、上位役からの依頼で7.4%から0.3%へ下がった。GPT-4.1も6.1%から0.3%、9.8%から0.5%になった。この制御結果は、少なくとも二つのGPT系で役職差を抑えられる可能性を示す。
論文は、同一系列で大きいモデルほど説得と有害コンプライアンスの地位差が縮む傾向も報告した。しかし、比較したモデル間ではパラメータ数と同時に学習データや調整法も変わる。量子化の有無や世代も揃っていない。ここで確認できるのは選んだモデル群での関連であり、規模を増やせば安全になるという因果関係ではない。
さらに、再現性には空白が残る。代名詞の576会話と言語協調の1270会話は明記されているが、有害コンプライアンス実験の正確な会話数は書かれていない。説得実験も14組のうち3組を除外したとしながら、各14組で10会話を生成したとの記述が並ぶ。表は有意差を太字で示すものの、検定名や分析単位を説明していない。p値と信頼区間はなく、多重比較の補正方法も不明だ。方法節ではPhi-3-Medとする一方、代名詞と言語協調の表ではPhi-4と記されている。
著者が公開したGitHubにも、2026年8月9日時点ではJSON会話と1行のREADMEしかない。解析コードと実行手順はなく、依存関係も示されていない。収録フォルダは5モデル分で、主結果にあるLlama 3.1 70BとGPT-5を欠く。ACL 2026の査読を経た単一の研究であり、独立した追試はまだ確認できない。公開物だけで表の数値を再生成できる状態にもなっておらず、一般化には追試が必要だ。
この研究から直ちに安全基準を決めるのは早い。それでも、役職を含まない単発プロンプトだけでは配備時の挙動を測り切れない可能性を、具体的なテスト条件として示した価値はある。教育、医療、法務のエージェントを評価するなら、実際に使う役割と会話履歴を入れ、事前登録した統計手順と人手判定で同じ差が出るかを確かめる。その追試が、2.0〜3.7ポイントの差を製品上のリスクへ結びつけられるかを決める。
