昨年、私は教育における生成AIに関するパネルディスカッションに参加した。印象的な瞬間があった。あるプレゼンターがこう問いかけたのである。「何が大騒ぎなのでしょうか？生成AIは計算機のようなものです。ただのツールです」と。
このアナロジーはますます一般的になってきている。OpenAIのCEOであるSam Altman氏自身がChatGPTを「言葉の計算機」と呼び、この新技術に対するコメントを計算機の登場時の反応と比較している。
人々は言いました。「これらを禁止しなければなりません。なぜなら、人々は宿題でただカンニングするだけだからです。もし人々が手作業で正弦関数を計算する必要がなくなったら［…］数学教育は終わりです」と。
しかし、生成AIシステムは計算機ではない。それらを計算機のように扱うことは、それらが何であるか、何をするか、誰に仕えるかを曖昧にする。この安易なアナロジーは物議を醸す技術を単純化し、過去の技術との5つの重要な違いを無視している。
1. 計算機は幻覚を見たり説得したりしない
計算機は明確に定義された入力から関数を計算する。888 ÷ 8を入力すれば、正しい答えが1つ得られる：111である。
この出力は限定的で変更不可能である。計算機は推論したり、推測したり、幻覚を見たり、説得したりしない。
答えに偽の要素や不要な要素を追加することはない。法的事例を捏造したり、人々に「どうか死んでください」と言ったりすることもない。
2. 計算機は根本的な倫理的ジレンマを提起しない
計算機は根本的な倫理的ジレンマを引き起こさない。
例えば、ChatGPTの作成にはケニアの労働者が時給1ドルか2ドルで、取り返しのつかないトラウマを与えるコンテンツをふるい分ける作業が含まれていた。計算機にはそれは必要なかった。
ベネズエラの金融危機後、あるAIデータラベリング企業は搾取的な雇用モデルで安い労働力を確保する機会を見出した。計算機にはそれも必要なかった。
計算機は巨大な新しい発電所の建設を必要としなかったし、AIデータセンターが世界で最も乾燥した地域の一部で行っているように、水を巡って人間と競合することもなかった。
計算機は新しいインフラの建設を必要としなかった。計算機産業は、チリのアタカメーニョ族の土地で現在行われているような、貪欲な銅やリチウムの採掘を推進する巨大な採掘ブームを見ることはなかった。
3. 計算機は自律性を損なわない
計算機は「人生のオートコンプリート」になる可能性はなかった。何を食べるか、どこへ旅行するか、いつデートの相手にキスをするかまで、あらゆる決定を代わりに行うことを申し出ることはなかった。
計算機は私たちの批判的思考能力に挑戦することはなかった。しかし、生成AIは独立した推論を侵食し、「認知的オフローディング」を増加させることが示されている。時間の経過とともに、これらのシステムへの依存は、日常的な決定を下す力を不透明な企業システムの手に委ねるリスクがある。
4. 計算機には社会的・言語的バイアスがない
計算機は人間の言語と文化の階層を再生産しない。しかし、生成AIは何世紀にもわたる不平等な権力関係を反映したデータで訓練されており、その出力はそれらの不公平を映し出している。
言語モデルは支配的な言語形式の威信を継承し強化する一方で、特権の少ない言語形式を脇に追いやったり消去したりする。
ChatGPTなどのツールは主流の英語を扱うが、他の世界英語については日常的に言い換えたり、誤ったラベルを付けたり、消去したりする。
技術開発から少数派の声を排除することに取り組むプロジェクトは存在するが、生成AIの主流英語への偏向は憂慮すべきほど顕著である。
5. 計算機は「あらゆることをする機械」ではない
計算機と異なり、言語モデルは数学のような狭い領域内で動作しない。代わりに、知覚、認知、感情、相互作用など、あらゆることに絡み合う可能性がある。
言語モデルは「エージェント」、「コンパニオン」、「インフルエンサー」、「セラピスト」、「ボーイフレンド」になることができる。これが生成AIと計算機の重要な違いである。
計算機が算術を手伝うのに対し、生成AIは取引的機能と相互作用的機能の両方に関与する可能性がある。一度の利用で、チャットボットは小説の編集を手伝い、新しいアプリのコードを書き、あなたが好きだと思う人の詳細な心理プロファイルを提供することができる。
批判的であり続けること
計算機のアナロジーは、言語モデルやいわゆる「副操縦士」、「チューター」、「エージェント」を無害なものに聞こえさせる。無批判な採用を許可し、技術が社会として直面するすべての課題を解決できることを示唆している。
また、生成AIシステムを作成し配布するプラットフォームに完全に適している。中立的なツールには説明責任も、監査も、共有ガバナンスも必要ない。
しかし、私たちが見てきたように、生成AIは計算機のようなものではない。単に数字を処理したり、限定的な出力を生成したりするだけではない。
生成AIが実際に何であるかを理解するには、厳密な批判的思考が必要である。「速く動いて物を壊す」ことの結果に立ち向かうための装備を与えてくれる種類の思考である。破壊がコストに見合うかどうかを決定するのに役立つ種類の思考である。