ChatGPTとチャットをすると、礼儀正しく、積極的で反応の良い相手と話しているような感覚になることが多い。適切なタイミングで相槌を打ち、あなたの言葉を反映し、会話を続けることに熱心に見える。
しかし、これは本当に人間の会話のようなものだろうか。私たちの新しい研究によると、ChatGPTは対話をもっともらしく模倣しているが、それは独自性ではなくステレオタイプ的な方法で行われている。
すべての会話には癖がある。家族が電話で話すとき、彼らは単に情報を交換するだけでなく、お互いの言葉を再利用し、創造的に作り変え、割り込み、意見が対立し、冗談を言い、軽口を叩き、話題から外れたりする。
彼らがそうするのは、人間の会話が本質的に断片的であるからだけでなく、相互作用の中で自分自身のアイデンティティを実現するためでもある。これらの「会話の独自性」の瞬間こそが、真の対話を予測不可能で深く人間的なものにしている。
私たちは人間の会話とAIの会話を対比したいと考えた。そこで、中国人の家族間の240の電話会話を、同じ文脈条件下でChatGPTがシミュレートした対話と比較し、統計モデルを使用して数百のターンにわたるパターンを測定した。
私たちの研究で人間の独自性を捉えるため、主に人間の相互作用の3つのレベルに焦点を当てた。1つは「対話的共鳴」である。これはお互いの表現を再利用することに関係している。例えば、話者Aが「あなたは全然電話してこない」と言うと、話者Bは「電話してこないのはあなたの方だ」と応答することがある。
私たちが含めたもう1つの要因は「組み換え創造性」である。これは対話者が言ったことに新しいひねりを加えることを含む。例えば、話者Aが「すべて順調？」と尋ねると、話者Bは「すべて素晴らしい」と答える。ここでは構造は一定に保たれているが、形容詞がその交換に独特な方法で創造的に置き換えられている。
私たちが含めた最後の特徴は「関連性の承認」である。これは相手の要点への関心と認識を示すことで、「あなたが言ったことは興味深いです、実際…」や「それは良い指摘です…」などである。
私たちが発見したこと
ChatGPTは関与を示すことにおいて驚くほど良い成績を収めた、それも良すぎるほどの結果だ。結果として、人間以上に他の話者に共鳴し、承認することが多かった。しかし、2つの決定的な点で不足していた。
第一に、ChatGPTの語彙の多様性は人間の話者よりもはるかに低かったのだ。人々が言葉や表現を変化させるところで、AIは同じものを再利用していた。
最も重要なことに、AI生成の会話には多くのステレオタイプ的な発話が見られた。アドバイスを与えたり要求をしたりするシミュレーションをするとき、ChatGPTは「健康に気をつけて」や「あまり心配しないで」といった予測可能な親のようなスタイルの推奨事項をデフォルトとしていた。
これは、明確化、拒否、冗談、皮肉、時には失礼な表現さえも混ぜ込む実際の人間の親とは異なっていた。私たちのデータでは、大学にいる娘の健康を心配するより人間的な方法は、直接的な指示よりもむしろ含意を通じて行われることが多かった──例えば、母親が「なぜ2つの仕事を掛け持ちしているの？」と尋ねることで、このまま忙しくしていると燃え尽きてしまうという含意を持たせている。
要するに、ChatGPTは私たちの調査の文脈において人間の対話を統計的に平坦化し、洗練されてもっともらしいが、最終的にはかなり味気ないテンプレートに置き換えた。
なぜこれが重要なのか
一見すると、ChatGPTの一貫性は強みのように感じられる。それはシステムを信頼でき、予測可能にする。しかし、まさにこれらの特質が、それをより人間らしくなくしている。実際の人々は繰り返し聞こえることを避ける。彼らは決まり文句に抵抗する。彼らは認識可能に自分たちのものである会話を構築する。
これが相互作用における独自のアイデンティティを定義するもの──他者にどのように認識されたいか──である。あなたが決して使わない言葉、表現、イントネーションがある。それは必ずしも失礼だからではなく、それらがあなたが誰であるか、他者にどのように聞こえたいかを表さないからである。
「退屈」だと非難されることは、ほとんどの人が避けようとすることである。有名なPatricia Highsmithの小説『The Talented Mr Ripley』で、American playboyのDickie Greenleafが友人のTom Ripleyについてそう言ったときに、それが事実上彼の死をもたらすことになる。私たちが行う会話上の選択は、単に適切な話し方ではなく、社会における自分自身の位置づけのための戦略であり、すべての会話で私たちの独自のアイデンティティを構築するものである。
このギャップはあらゆる面で重要である。AIが人間の相互作用の独自性を捉えることができなければ、人々が実際にどのように話すかを反映するのではなく、どのように話すべきかのステレオタイプを強化するリスクがある。さらに憂慮すべきことに、それは会話の新しい手続き的イデオロギーを促進する可能性がある──話が関与しているように聞こえながらも創造的でないものに還元され、協力の機能的だが貧弱なツールとなるものである。
私たちの発見は、AIが対話の規範的パターン──人々が頻繁かつ慣習的に言うこと──をモデル化することに驚くほど優れていることを示唆している。しかし、創造性、ユーモア、真正な人間の会話に不可欠な特異で予期しないことには苦労している。
危険なのは、AIがもっともらしく聞こえるだけではないということである。時間の経過とともに、人間がそのスタイルを模倣し始め、AIのステレオタイプ化された行動が会話の規範を作り変え始める可能性があることである。
長期的には、私たちはAIから会話の仕方を「学習」し、自分自身の発話から創造性と独自性を徐々に消去していくことになるかもしれない。会話は、その核心において、単に効率性に関するものではない。それは、私たちが認識している以上に、革新と奔放さを通じて意味と社会的アイデンティティを共同創造することに関するものである。
したがって、AIがこの問題を克服できないと仮定すると、危機に瀕しているのは、単にAIが人間のように会話できるかどうかではなく、人間が自分自身のように会話し続けるかどうかということかもしれない。
