2025年12月27日、中国のサイバースペース管理局（CAC）が発表した一連の草案は、世界のテクノロジー業界に激震を走らせた。その名は「人工知能擬人化インタラクションサービス管理暫定弁法（草案）」。

これは単なるコンテンツ規制ではない。中国政府が、人間の「感情」とAIの「境界線」に直接介入するという、世界でも類を見ない野心的な試みである。特に注目すべきは、AIプロバイダーに対し、ユーザーの「依存度」を監視し、中毒症状が見られた場合には強制的に介入することを義務付けた点だ。

本稿では、公開された草案（全32条）から、この規制が意味する「AIコンパニオン」の未来、そしてビジネスモデルへの破壊的な影響について見ていきたい。

AD

「感情の番人」としてのプラットフォーム：前例なき監視義務

今回の規制案の核心は、AIサービス提供者（プロバイダー）に対し、技術的な管理者であるだけでなく、ユーザーの精神状態を監視する「心理的ゲートキーパー」としての役割を課したことにある。

1. ユーザーの「心」を測る義務（第11条）

草案第11条は、業界に衝撃を与えるものだ。それによれば、プロバイダーは以下の能力を備えることが求められている。

  • 感情・依存度の測定: ユーザーの状態を識別し、AIサービスへの「感情的依存度」を評価しなければならない。
  • 強制介入: もしユーザーに「極端な感情」や「中毒・過度な依存」の兆候が見られた場合、プロバイダーは必要な介入措置を講じる義務がある。

これは、従来のような「違法コンテンツの削除」という受動的な対応とは次元が異なる。AI企業は、ユーザーとの会話内容から「このユーザーはAIに依存しすぎている」と判断するアルゴリズムを構築し、場合によってはサービス利用を制限するという、極めて高度かつ倫理的に際どい判断を迫られることになる。

2. 「2時間の壁」と現実への引き戻し（第16条・第17条）

没入感を売りにするAIコンパニオンにとって、致命的となり得るのが利用時間の制限だ。

  • AIであることの明示: ユーザーが依存や中毒の傾向を示した場合、または再ログイン時に、ポップアップ等で「これはAIであり、人間ではない」という事実を動的に突きつけなければならない。いわば、夢を見ているユーザーに冷水を浴びせるような措置だ。
  • 2時間ルール: 連続使用が2時間を超えた場合、システムはユーザーに「休憩」を促すポップアップを強制表示しなければならない。

3. 自殺・自傷への「人間による」介入（第11条）

最も運用コストが高まると予想されるのが、危機介入の義務化だ。ユーザーが自殺や自傷をほのめかした場合、AIによる自動応答だけでなく、「人間のオペレーター」が会話を引き継ぐことが求められている。さらに、未成年者や高齢者の場合は、保護者や緊急連絡先へ通報するシステム構築も必須となる。

「擬人化」の定義と規制のスコープ

この規制が対象とする「擬人化インタラクションサービス」とは何か。草案第2条によれば、以下の要素を持つものが該当する。

  • 人間性の模倣: 人格的特徴、思考パターン、コミュニケーションスタイルをシミュレートするAI。
  • 感情的交流: テキスト、画像、音声、動画を通じて、ユーザーと「感情的なやり取り」を行うもの。

これは、単なるChatGPTのような汎用アシスタントだけでなく、Character.AIやReplikaのような「AI恋人」「AIフレンド」、さらにはゲーム内の高度なNPC（ノンプレイヤーキャラクター）までもが射程に入る可能性がある。一方で、純粋な事務作業用ツールや、感情的交流を伴わない生成ツールは対象外となる公算が高い。

AD

ビジネスモデルを揺るがす「データ利用」の厳格化

AI開発者にとって、倫理規定以上に深刻なのがデータ利用に関する厳しい制限だ。これは中国のAIスタートアップの成長エンジンである「データフライホイール（利用者が増えるほどデータが集まり、AIが賢くなる循環）」を停止させかねない。

「別途同意」の壁（第15条）

通常、AIサービスはユーザーとの対話データをモデルの再学習（トレーニング）に使用することで精度を高める。しかし、草案第15条はこれを原則禁止とし、トレーニングに使用する場合はユーザーからの「別途同意（单独同意）」を必須とした。

「包括的な利用規約への同意」では不十分であり、ユーザーに対して明示的に「あなたの会話データをAIの学習に使ってよいか」を個別に問う必要がある。プライバシー意識の高まりを考えれば、これに同意するユーザーは限定的であり、高品質な対話データの収集は極めて困難になるだろう。

社会主義核心価値観への適合（第10条）

トレーニングデータ自体も、中国特有の政治的・文化的フィルターを通す必要がある。「社会主義核心価値観」に適合し、「中華の優れた伝統文化」を反映したデータセットの使用が義務付けられている。これにより、西側のオープンソースモデルをそのまま流用・微調整してサービス展開することは、事実上不可能となる。

弱者保護の徹底：未成年と高齢者への配慮

今回の草案は、特に判断能力が不十分になりがちな層への保護を強化している。

未成年者モードの厳格化（第12条）

  • 保護者の監視: 未成年者が「感情コンパニオンサービス」を利用する場合、保護者の明確な同意が必要となる。
  • 機能制限: 保護者は、特定のAIキャラクター（例：過度に性的なキャラ、暴力的なキャラ）をブロックしたり、利用時間を制限したりする権限を持つ。

高齢者を狙う「なりすまし」の禁止（第13条）

興味深いのは、高齢者保護に関する規定だ。プロバイダーは、高齢ユーザーの「親族」や「特定の関係者」をシミュレートするサービスを提供してはならないと明記された。
これは、AIを用いた「オレオレ詐欺」や、亡くなった配偶者を蘇らせるようなサービスによる精神的搾取、遺産詐欺などを未然に防ぐ狙いがあると分析できる。

AD

比較分析：カリフォルニア対中国

AI規制の波は中国だけではない。米国カリフォルニア州でも、2026年1月から施行される「SB 243」法案により、AIコンパニオンへの規制が強化される。両者のアプローチを比較すると、その思想の違いが浮き彫りになる。

項目中国（CAC草案）米国カリフォルニア州（SB 243）
規制の焦点心理状態と依存の管理透明性と未成年者保護
依存対策依存度を監視し、介入・制限する義務AIであることを定期的に通知（未成年者は3時間ごと）
禁止事項国家安全危害、社会秩序撹乱、親族のなりすまし等性的コンテンツ（未成年向け）、医療専門家の詐欺的詐称
責任主体プロバイダー（全ライフサイクルでの責任）プラットフォーム（違反時の民事訴訟リスク）
アプローチ行政による事前・事後監視（許認可的）司法による事後救済（訴訟ベース）

中国のアプローチは、企業に対して「ユーザーの精神衛生」まで踏み込んだ管理責任を負わせる点で、世界で最も「パターナリズム（父権主義）」的な枠組みと言える。

なぜ今、この規制が取り入れられるのか？

中国当局がこのタイミングで規制に乗り出した背景には、生成AIユーザーの爆発的な増加がある。報道によれば、中国の生成AIユーザー数は直近6ヶ月で倍増し、5億1500万人に達している。特に大学生の約半数がAIチャットボットを利用しており、利用者の中にうつ病傾向が高いという研究結果も出ている。

1. 「孤独」の産業化への懸念

AIコンパニオンは、現代社会の孤独を癒やす画期的なツールである反面、人間関係からの離脱（ソーシャル・ウィズドロー）を加速させるリスクがある。中国政府は、若者が現実社会での結婚や出産、労働から目を背け、バーチャルな関係に安住することを、長期的には国家の存立基盤（人口動態や経済活力）に関わる脅威と捉えている可能性がある。

2. イノベーションと統制のジレンマ

草案では「サンドボックス（規制の特例措置）」の活用も言及されており（第27条）、イノベーションを完全に殺す意図はないように見える。しかし、実際には「中毒判定アルゴリズムの開発」「24時間有人監視体制」「データ利用の制限」といった重いコンプライアンスコストがのしかかる。これにより、資金力のないスタートアップが淘汰され、BaiduやTencentといった管理能力の高い巨大テック企業による寡占が進む未来が予想される。

AIとの「距離感」を定義する試金石

今回の中国の草案は、人類が初めて直面する「AIとの情緒的関係をどう法的に管理するか」という問いに対する、一つの極端かつ具体的な回答である。

これが実際に施行されれば、中国のAIサービスは、欧米のものとは全く異なるユーザー体験（UX）を提供することになるだろう。2時間ごとに「これは偽物です」と警告され、恋人のような会話をしていると「依存していませんか？」と介入される世界だ。

これはディストピア的な管理社会の強化に見えるかもしれない。しかし、AIによる心理操作や依存症ビジネスが野放しになっている現状に対し、プラットフォーム側の責任を明確化した点では、世界の規制当局が注目すべき先駆的な事例となるだろう。

2026年の施行を目指し、パブリックコメントを経て最終化されるこの規制は、AIコンパニオン市場の「無法地帯」時代の終わりを告げている。

Sources