Googleは13歳未満の子供向けにGemini人工知能（AI）チャットボットを展開すると発表した。

このサービスは来週からアメリカとカナダでスタートし、オーストラリアでは今年後半に開始される予定である。チャットボットはGoogleのファミリー リンクアカウントを通じてのみ利用可能となる。

しかし、この展開には大きなリスクが伴う。また、子供たちがソーシャルメディアを禁止されていたとしても、親は子供の安全を確保するために新しいテクノロジーに対して潜在的な問題に常に対処しなければならないことを浮き彫りにしている。

この問題に対処する良い方法は、Googleなどのビッグテックカンパニーにデジタル注意義務を緊急に実施することだろう。

Gemini AIチャットボットの仕組み

Googleのファミリー リンクアカウントは、親がYouTubeなどのコンテンツやアプリへのアクセスを管理できるようにしている。

子供のアカウントを作成するには、親が子供の名前や生年月日などの個人情報を提供する必要がある。これはデータ漏洩を懸念する親にとってプライバシーの問題を引き起こす可能性があるが、Googleはシステムを使用する際の子供のデータはAIシステムのトレーニングには使用されないとしている。

チャットボットへのアクセスはデフォルトで「オン」になっているため、親はアクセスを制限するためにこの機能を積極的にオフにする必要がある。幼い子供たちはチャットボットにテキスト応答を促したり、システムによって生成される画像を作成したりすることができる。

Googleはシステムが「間違いを犯す」可能性があることを認めている。そのため、コンテンツの品質と信頼性の評価が必要である。チャットボットは情報を作り出す（「ハルシネーション」と呼ばれる）可能性があるため、子供が宿題のヘルプにチャットボットを使用する場合、信頼できる情報源で事実を確認する必要がある。

システムが提供する情報の種類

Googleやほかのサーチエンジンはユーザーがレビューするためのオリジナル資料を取得する。学生は課題を書く際にニュース記事、雑誌、その他の情報源を読むことができる。

生成AIツールはサーチエンジンとは異なる。AIツールはソース資料のパターンを探し、人が提供するクエリまたは「プロンプト」に基づいて新しいテキスト応答（または画像）を作成する。子供がシステムに「猫を描いて」と頼むと、システムは猫がどのように見えるか（ひげ、とがった耳、長い尾など）のデータのパターンをスキャンし、それらの猫のような詳細を含む画像を生成する。

Google検索で取得された資料とAIツールによって生成されたコンテンツの違いを理解することは、幼い子供たちにとって難しいだろう。研究によれば、大人でさえAIツールに騙される可能性がある。そして、弁護士などの高度な技能を持つ専門家でさえ、ChatGPTやその他のチャットボットによって生成された偽のコンテンツを使用するよう誤って導かれたという報告もある。

生成されるコンテンツは年齢に適したものか

Googleはシステムには「不適切または安全でないコンテンツの生成を防ぐように設計された組み込みの保護機能」が含まれるとしている。

しかし、これらの保護機能は新たな問題を引き起こす可能性がある。例えば、子供が不適切な性的コンテンツにアクセスするのを防ぐために特定の単語（「胸」など）が制限されると、思春期の体の変化に関する年齢に適したコンテンツへのアクセスも誤って排除される可能性がある。

多くの子供たちは非常にテクノロジーに精通しており、アプリをナビゲートしシステム制御を回避するための十分に発達したスキルを持っていることが多い。親は組み込みの保護機能だけに頼ることはできない。彼らは生成されたコンテンツをレビューし、子供たちがシステムの仕組みを理解し、コンテンツが正確かどうかを評価するのを手伝う必要がある。

AIチャットボットは子供たちにどのようなリスクをもたらすか

eSafety Commissionは、特に幼い子供たちのために、個人的な関係をシミュレートするように設計されたものを含め、AIチャットボットの潜在的なリスクに関するオンライン安全勧告を発表した。

eSafety勧告は、AIコンパニオンが「有害なコンテンツを共有し、現実を歪め、危険なアドバイスを与える」可能性があると説明している。勧告は特に幼い子供たちのリスクを強調している。彼らは「コンピュータープログラムによってどのように誤導または操作される可能性があるか、そしてそれについて何をすべきかを理解するために必要な批判的思考と生活スキルをまだ発達させている途中である」。

私の研究チームは最近、ChatGPT、Replika、Tessaなどの様々なAIチャットボットを調査した。これらのシステムは、社会的行動を支配する多くの不文律、つまり「感情規則」に基づいて人々の相互作用を映し出していることがわかった。これらの規則は、誰かがドアを開けてくれたときに「ありがとう」と言ったり、道で誰かにぶつかったときに「ごめんなさい！」と言ったりするよう導くものである。

これらやその他の社会的な礼儀正しさを模倣することで、これらのシステムは私たちの信頼を得るように設計されている。

これらの人間のような相互作用は、幼い子供たちにとって混乱を招き、潜在的にリスクがあるだろう。彼らはチャットボットが偽の情報で応答している場合でも、コンテンツを信頼できると信じるかもしれない。そして、彼らは機械ではなく、実際の人間と関わっていると信じるかもしれない。

AIチャットボットを使用する際に子供たちを害から守るにはどうすればよいか

この展開は、オーストラリアで16歳未満の子供がソーシャルメディアアカウントを持つことが今年12月に禁止される重要な時期に起きている。

一部の親はこれによって子供たちが害から守られると信じるかもしれないが、生成AIチャットボットはオンラインエンゲージメントのリスクがソーシャルメディアをはるかに超えていることを示している。子供たち、そして親たちは、あらゆるタイプのデジタルツールを適切かつ安全に使用する方法について教育を受ける必要がある。

GeminiのAIチャットボットはソーシャルメディアツールではないため、オーストラリアの禁止対象外となる。

これによりオーストラリアの親たちは、子供の安全を確保しようとする際に新しいテクノロジーとの潜在的な問題に常に対処しなければならない状況に置かれている。親は新しいツールの開発に遅れをとらず、子供たちが直面する潜在的なリスクを理解する必要がある。また、ソーシャルメディア禁止令が子供たちを害から守る上での限界も理解しなければならない。

これは、オーストラリアの提案されているデジタル注意義務法を再検討する緊急の必要性を浮き彫りにしている。欧州連合と英国が2023年にデジタル注意義務法を施行する一方、オーストラリアのものは2024年11月から保留されている。この法律は、有害なコンテンツに対処し、すべての人を保護するために、テクノロジー企業に責任を持たせるものである。

---

本記事は、RMIT大学情報科学教授、社会変革を可能にするインパクト・プラットフォーム・ディレクターLisa M. Given氏によって執筆され、The Conversationに掲載された記事「Google is rolling out its Gemini AI chatbot to kids under 13. It’s a risky move」について、Creative Commonsのライセンスおよび執筆者の翻訳許諾の下、翻訳・転載しています。