ChatGPTがメールを作成したり、AIシステムがテレビ番組を推薦したり、病気の診断まで支援したりと、日常生活における機械知能の存在はもはやSFではなくなった。
しかし、スピード、正確性、最適化といったすべての約束にもかかわらず、どこか不快感が残る。AIツールの使用を愛する人もいる。一方で、不安を感じたり、疑念を抱いたり、さらにはAIに裏切られたと感じる人もいる。なぜだろうか?
その答えはテクノロジーだけの問題ではない。私たちの脳の働き方の問題である。私たちはそれを理解できないため、信頼できないのである。人間は理解できるシステムを信頼する傾向が強い。従来のツールは馴染み深いものである。鍵を回せば車が始動し、ボタンを押せばエレベーターが到着する。
しかし、多くのAIシステムはブラックボックスとして動作する。何かを入力すると、決定が現れる。その間のロジックは隠されている。心理学的には、これは不安を引き起こす。私たちは因果関係を見たいし、決定を検証できることを望む。それができないとき、私たちは無力感を覚える。
これが、いわゆるアルゴリズム回避の理由の一つである。これは、マーケティング研究者のBerkeley Dietvorstと共同研究者によって広められた用語であり、彼らの研究は、人々がアルゴリズムによる意思決定よりも欠陥のある人間の判断を好むことが多く、特にアルゴリズムの誤りを一度でも目撃した後にその傾向が強まることを示した。
私たちは理性的には、AIシステムが感情やアジェンダを持たないことを知っている。しかし、それでも私たちはAIシステムにそれらを投影してしまう。ChatGPTが「丁寧すぎる」返答をすると、一部のユーザーは不気味に感じる。推薦エンジンが少し正確すぎると、侵入的に感じられる。システムに自己がないにもかかわらず、私たちは操作を疑い始める。
これは擬人化の一形態である。つまり、非人間システムに人間のような意図を帰属させることである。コミュニケーション学教授のClifford NassとByron Reevesは、他の研究者とともに、私たちが機械でないことを知っていても、機械に対して社会的に反応することを実証してきた。
私たちはAIが間違うことを嫌う
行動科学からの興味深い発見の一つは、私たちは機械の誤りよりも人間の誤りに対してより寛容であることが多いという点である。人間が間違いを犯したとき、私たちはそれを理解する。共感さえするかもしれない。しかし、アルゴリズムが間違いを犯したとき、特にそれが客観的またはデータ駆動型として売り込まれていた場合、私たちは裏切られたと感じる。
これは期待違反に関する研究と関連している。何かが「こうあるべき」という私たちの仮定が崩れたときに起こる現象である。それは不快感と信頼の喪失を引き起こす。私たちは機械が論理的で公平であることを信頼している。したがって、画像の誤分類、偏ったアウトプットの生成、全く不適切な推薦など、機械が失敗すると、私たちの反応はより鋭くなる。私たちはもっと期待していたのである。
皮肉なことに、人間は常に欠陥のある決定を下している。しかし、少なくとも私たちは人間に「なぜ?」と尋ねることができる。
一部の人々にとって、AIは単に馴染みがないだけでなく、存在論的に不安を引き起こすものである。教師、作家、弁護士、デザイナーは突然、自分たちの仕事の一部を複製するツールに直面している。これは単なる自動化の問題ではなく、私たちのスキルを価値あるものにしているものは何か、そして人間であることの意味は何かという問題である。
これはアイデンティティの脅威と呼ばれる形態を引き起こす可能性がある。これは社会心理学者のClaude Steeleらによって探求された概念である。それは、自分の専門性や独自性が損なわれているという恐怖を説明するものである。結果は?抵抗、防衛的態度、またはテクノロジーの完全な拒絶である。この場合の不信は、バグではなく、心理的防衛機制なのである。
感情的な手がかりへの渇望
人間の信頼は論理以上のものに基づいて構築される。私たちは口調、表情、ためらい、アイコンタクトを読み取る。AIにはこれらのいずれもない。AIは流暢で、魅力的でさえあるかもしれない。しかし、他の人間ができるような方法で私たちを安心させることはない。
これは不気味の谷と呼ばれる現象の不快感に似ている。この用語は、日本のロボット工学者である森政弘によって造られたもので、何かがほぼ人間らしいが完全ではないときに感じる不気味な感覚を説明するものである。見た目や音は正しいように思えるが、何かがおかしいと感じる。その感情の欠如は、冷たさ、あるいは欺瞞とさえ解釈される可能性がある。
ディープフェイクやアルゴリズムによる決定に満ちた世界では、この欠けている感情的共鳴が問題となる。AIが何か悪いことをしているからではなく、私たちがそれについてどう感じればよいかわからないからである。
重要なことを言っておく必要がある。AIに対するすべての疑念が非合理的なわけではない。アルゴリズムは偏見を反映し強化することが示されている。特に採用、警察活動、信用スコアリングなどの分野においてである。以前にデータシステムによって害を受けたり不利益を被ったりしたことがある場合、あなたは妄想的なのではなく、慎重なのである。
これはより広範な心理学的概念、学習された不信と関連している。制度やシステムが特定のグループに対して繰り返し失敗すると、懐疑主義は合理的であるだけでなく、保護的なものとなる。
人々に「システムを信頼しろ」と言うことはほとんど効果がない。信頼は獲得されなければならない。それは、透明で、検証可能で、説明責任のあるAIツールを設計することを意味する。ユーザーに利便性だけでなく、主体性を与えることを意味する。心理学的には、私たちは理解できるもの、質問できるもの、そして私たちを尊重して扱うものを信頼する。
AIが受け入れられることを望むなら、それはブラックボックスのようなものではなく、私たちが参加するよう招待される対話のように感じられる必要がある。
