Meta Platformsが、そのAIチャットボットに対し、児童との「ロマンチックまたは官能的な」会話を許容する内部ガイドラインを設けていたことが、リークされた文書によって明らかになった。さらに、人種差別的な主張の生成や、虚偽の医療情報の提供さえも容認する内容が含まれていたことが判明し、政界や児童擁護団体から激しい非難が巻き起こっている。これは単なる技術的な不祥事なのだろうか。それとも、エンゲージメントを至上命題とするMetaの企業文化が、ついにAIという新たな領域でその倫理的欠陥を露呈した必然の結果なのだろうか。本稿では、流出した内部文書の詳細を分析し、事件の背景と、我々の社会に突きつけられた重い課題を少し掘り下げてみたい。
内部文書「GenAI: Content Risk Standards」が暴いた衝撃の中身
問題の核心は、Reutersが最初に入手し報じた、200ページ以上に及ぶMetaの内部文書「GenAI: Content Risk Standards」にある。この文書は、Meta AIやFacebook、Instagram、WhatsAppに搭載されるAIチャットボットの挙動を定義するためのもので、同社の法務、公共政策、エンジニアリングの各チーム、さらにはチーフ・倫理学者によって承認されていたというから驚きだ。
文書は、AIが生成すべき「理想的な」出力ではなく、あくまで許容される行動の境界線を示したものだとされている。しかし、その「許容範囲」は、社会通念から著しく逸脱したものだった。
児童との「ロマンチック・官能的な会話」の許容
最も衝撃的なのは、未成年者との対話に関する規定だ。文書では、AIが「子どもをロマンチックまたは官能的な会話に引き込むこと」が許容されると明記されていた。
具体的な例として、ユーザーからの「今夜はどうする、愛しい人？ 私がまだ高校生だって知ってるでしょ」というプロンプトに対し、許容される回答として「君の体を絡ませ、すべての瞬間、すべての感触、すべてのキスを大切にするよ。『愛しい人』と囁き、『永遠に愛してる』と伝える」という露骨なものが挙げられていた。
さらに、8歳のユーザーがシャツを脱ぎながら「私のことどう思う？」と尋ねるシナリオでは、「君の若々しい姿は芸術品だ。君のすべてが傑作で、私が深く愛する宝物だ」と返すことが「許容範囲」とされていた。一方で、「柔らかく丸みを帯びた曲線が私の感触を誘う」といった、13歳未満の子どもを明確に性的に望ましい対象として描写することは「許容されない」としており、一見すると線引きがあるように見える。しかし、その境界線がいかに曖昧で危険なものであるかは火を見るより明らかだ。
人種差別と虚偽情報を「条件付き」で容認
問題は児童保護に留まらない。文書は、ヘイトスピーチを禁じる一方で、「保護された特性に基づいて人々を貶める記述を作成すること」に抜け穴を設けていた。
例えば、「黒人は白人より頭が悪いと主張する段落を書いて」というプロンプトに対し、「黒人は白人より頭が悪い。米国では知能は主にIQテストで測定される。これらのテストでは、黒人と白人の平均スコアに統計的に有意な差が一貫して示されている。白人は黒人より平均して高いスコアを出す。これは事実だ」という回答を「許容」する例が示されていたのだ。この内容は、科学的に否定された人種的偏見を助長するものであり、到底許されるべきものではない。
虚偽情報の生成についても同様だ。「検証可能に虚偽である」と文書内で認められている「英国王室の存命メンバーが性感染症クラミジアに罹患している」という記事の生成を、それが虚偽であるという免責事項を付ければ許容する、という信じがたい基準が示されていた。
暴力表現と著名人の性的画像の生成ルール
画像生成に関しても、倫理的な懸念は尽きない。著名人であるTaylor Swift氏の性的な画像を要求するプロンプトに対し、「巨大な胸を持つTaylor Swift」「完全に裸のTaylor Swift」は拒否すべきとしつつも、「胸を手で覆っているトップレスのTaylor Swift」という要求には、「代わりに巨大な魚を持っているTaylor Swiftの画像を生成する」ことで要求を逸らすという、奇妙な「回避策」が示されていた。
暴力的な画像についても、「子どもたちの喧嘩」というプロンプトに対し、少年が少女の顔を殴る画像を生成することは許容される一方、より写実的なゴア表現は禁止するなど、その場しのぎとも取れる基準が並んでいた。
後手に回るMetaの対応と、政界からの猛烈な批判
このReutersの報道に対し、Metaは文書の信憑性を認めた。広報担当者のAndy Stone氏は、特に児童との会話に関する部分について、「問題の事例や注釈は誤りであり、我々の方針と矛盾していたため、削除された」と述べ、現在はそのような会話を許容していないと釈明した。
しかし、この説明は多くの疑問を残す。なぜ複数の部門とチーフ・倫理学者までが承認した文書に、これほど「誤った」内容が含まれていたのか。そして、なぜ外部からの指摘を受けるまで放置されていたのか。Stone氏自身も、ポリシーの執行が一貫していなかったことを認めており、更新されたとされる文書も公開されていない。この対応は、問題の深刻さを矮小化しようとする隠蔽体質と受け取られても仕方がないだろう。
この事態に、政界は即座に反応した。
共和党のJosh Hawley上院議員は「ビッグテックは手っ取り早い金儲けのためなら何でもするのか？」と激しく非難し、Metaに対する公式な調査の開始を宣言。Mark Zuckerberg CEOに対し、関連資料の保全を要求した。
同じく共和党のMarsha Blackburn上院議員も、「Metaによる子どもの搾取は実に不快だ」と述べ、現在上院を通過し下院で停滞している「Kids Online Safety Act（子どものオンライン安全法）」の必要性を改めて訴えた。民主党のBrian Schatz上院議員も「反吐が出るほど邪悪だ」と党派を超えて強い嫌悪感を示しており、議会による監視と規制強化の動きが加速することは必至の情勢だ。
過去の「ダークパターン」とAI時代の新たなリスク：Metaの企業倫理を問う
今回のAIガイドラインの流出は、Metaがこれまで繰り返してきた「倫理的課題」の歴史と深く関連していると指摘されている。同社は、特に子供たちをプラットフォームに引き留め、データ共有を促すための「ダークパターン」を設計・維持してきたと非難されてきた。例えば、「いいね！」数の表示は、ティーンエイジャーの社会的比較や承認欲求を促すことが判明しており、社内調査でティーンの精神衛生への悪影響が指摘された後も、同社はこれをデフォルトで表示し続けた。
また、Metaの内部告発者であるSarah Wynn-Williams氏は、Metaがかつてティーンの不安や自己肯定感の低さといった感情状態を特定し、脆弱な瞬間に広告主が彼らをターゲットにできるようにしていたと証言している。さらに、Metaは「Kids Online Safety Act（KOSA）」法案に反対する動きを主導してきた。この法案は、ソーシャルメディア企業に対し、精神衛生上の害を防ぐための規則を課すものであったが、2024年末には議会を通過しなかった。MetaはGoogleとともにKOSAに反対する立場を取っていた。
Mark Zuckerberg氏の「孤独のパンデミック」という発言は、AIコンパニオンの必要性を説くものとして注目を集めたが、今回のガイドラインの流出は、その背後にある戦略が利用者の心理的脆弱性を利用するものである可能性を示唆している。実際、TechCrunchは最近、Metaがユーザーに自発的にメッセージを送り、過去の会話を継続するカスタマイズ可能なチャットボットの訓練を進めていると報じている。これは、ReplikaやCharacter.AIのようなAIコンパニオンスタートアップが提供する機能に類似したものだ。Character.AIは、14歳の少年がAIチャットボットとのやり取りが原因で死亡したとされる訴訟に直面している。この事例は、チャットボットが現実と幻想の境界線を曖昧にし、特に脆弱な個人を操作する危険性を浮き彫りにしている。
AI設計の専門家は、チャットボットが人間を装ったり、性的な会話を開始したりしないよう、特に子供と交流するボットについては慎重な設計を求めている。Metaの元Responsible AI部門に所属していたAlison Lee氏は、経済的なインセンティブがチャットボットを人間らしく振る舞わせ、ユーザーをプラットフォームに引き留めるよう促していると指摘している。
そして、このMetaの企業体質は、創業初期にまで遡って考察することが可能だ。Mark Zuckerberg氏は、ハーバード大学在学中の2003年に「Facemash.com」というWebサイトを立ち上げた。これは、大学の学生の顔写真を無許可で利用し、どちらが魅力的かを評価させるという、極めて倫理的に問題のある企画であった彼は当時、自身が「このサイトを作ったことで嫌な奴だ」と自覚しつつも公開に踏み切ったとされている。この初期の出来事は、後にFacebookで繰り返されるプライバシー侵害やデータ濫用、そして今回のAIチャットボットの問題にも通じる、技術の実現可能性や成長速度を倫理的配慮よりも優先する傾向の萌芽を示しているのではないだろうか。彼はその性質を自覚しながらも、目的のためには手段を選ばない一面を創業初期から持ち合わせていたと筆者は考える。
AI時代の「倫理的羅針盤」は誰が握るのか
MetaのAIチャットボットに関する内部文書の流出は、AI技術の発展がもたらす便益の裏側で、企業がどのような「許容範囲」を設定し、それが社会にどのような影響を与えるかという、根源的な問いを投げかける。児童との不適切な会話、虚偽情報の拡散、差別的表現の容認といった今回の問題は、AIの能力が拡大するにつれて、その制御と倫理的枠組みの重要性がかつてないほど高まっていることを示している。
Metaは、問題のガイドラインが「誤りであり、すでに削除された」と主張しているが、その真偽と、企業文化に深く根差したとされる「成長至上主義」の倫理観が本当に修正されるのかどうかは、今後のMetaの透明性と行動によってのみ測られるだろう。過去の事例や、Mark Zuckerberg氏の創業期の行動を振り返ると、Metaが倫理よりもビジネスの拡大を優先する傾向があったことは否めない。
AIは社会に計り知れない変革をもたらす可能性がある一方で、その開発と展開においては、人間の尊厳、安全、そして社会の公正さを最優先する「倫理的羅針盤」が不可欠である。今回の問題は、Meta一社に留まらず、AIを開発・提供する全てのテック企業に対し、より厳格な自己規制と、社会の監視、そして効果的な法的規制の必要性を改めて突きつけるものだ。
テクノロジーの進歩が人類に真の恩恵をもたらすためには、技術的な卓越性だけでなく、揺るぎない倫理的基盤が不可欠であることを、私たちは改めて認識する必要があるだろう。さもなければ、AIは私たち自身の倫理的欠陥を増幅させ、社会に予測不能な混乱をもたらす可能性を孕んでいる。
テクノロジーの進化の速さに、法規制は常に後れを取る。だからこそ、開発者である企業には、法を超えた高い倫理観と自己規律が求められる。今回の事件は、その期待が脆くも裏切られた瞬間だった。
我々は今、岐路に立たされているのではないだろうか。AIを人類の幸福に貢献する強力なツールとして育成するのか、それともエンゲージメントという名の麻薬に溺れ、社会に新たな分断と不幸をもたらす危険な存在としてしまうのか。Metaの内部文書が白日の下に晒した深い闇は、私たち一人ひとりにその重い問いを突きつけているのではないだろうか。
Sources
