中国政府は、AI生成コンテンツに明示的・暗黙的な二重の標識（タグ）を義務付ける新規制「人工知能生成合成内容の標識方法」を発表した。テキスト、画像、音声、動画、仮想シーンなど全てのコンテンツが対象で、2025年9月1日から施行される。この規制は誤情報拡散防止と権利保護を目的としている。
二重の標識：人間と機械の両方が認識可能に
新規制では、AIサービスプロバイダーに対し、生成コンテンツへの「明示的標識」（显式标识）と「暗黙的標識」（隐式标识）の二種類のマーキングを義務付けている。
「明示的標識」は、ユーザーが明確に認識できる方法で表示される標識で、コンテンツの種類によって表示方法が異なる：
- テキストコンテンツ：始め、終わり、または適切な中間位置に文字による通知やマークを表示。あるいは、インターフェース上や文章の周囲に目立つ通知を配置
- 音声コンテンツ：開始時、終了時、または適切な中間位置に音声通知や音の変化による合図を含める。あるいは、インターフェース上に目立つ通知を表示
- 画像コンテンツ：適切な位置に目立つ通知を表示
- 動画コンテンツ：開始画面と動画再生周辺の適切な位置に目立つ通知を表示。終了時や中間位置にも通知を追加可能
- 仮想シーン：開始画面に目立つ通知を表示し、継続的なサービス過程でも通知を追加可能
「暗黙的標識」は、ファイルのメタデータに埋め込まれる技術的な標識で、AI生成であることを示す属性情報、サービス提供者の名称またはコード、コンテンツ番号などの制作要素情報を含める必要がある。規制ではデジタルウォーターマークなどの形式による暗黙的標識の追加も推奨している。
プラットフォームとユーザーの責任
コンテンツの配信プラットフォームは以下の措置を講じる必要がある：
- ファイルのメタデータに暗黙的標識があるかを確認し、AI生成コンテンツであることが明記されている場合は、投稿内容の周囲に目立つ標識を追加
- メタデータに暗黙的標識がなくても、ユーザーがAI生成コンテンツだと宣言した場合は、投稿内容の周囲に標識を追加
- メタデータに標識がなく、ユーザーも宣言していないが、プラットフォームが明示的標識や他のAI生成の痕跡を検出した場合、疑わしいAI生成コンテンツとして識別し、周囲に標識を追加
- ユーザーがAI生成コンテンツを含む投稿を自主的に宣言できる機能を提供
アプリストアは、アプリの上場や審査時に、AIを使用したコンテンツを生成するかどうかの説明を要求し、生成する場合は標識に関連する資料を審査する必要がある。
一方、ユーザーには以下の責任が課せられる：
- ネットワーク情報内容伝播サービスを使用してAI生成コンテンツを発表する際、自主的に宣言し、サービス提供者が提供する標識機能を使用して標識を付ける
- AI生成コンテンツの標識を悪意を持って削除、改ざん、偽造、隠蔽することの禁止
- 上記の悪意ある行為を他者に提供するツールやサービスの提供の禁止
- 不適切な標識によって他者の法的権益を損なうことの禁止
例外として、社会的懸念や産業ニーズのために、ユーザーが明示的標識のないAI生成コンテンツを要求することも可能だが、その場合はサービス提供者がユーザーにその責任と使用責任を明確にした上で提供し、関連ログを最低6ヶ月間保存することが義務付けられる。
規制の背景：誤情報拡散防止と権利保護
この規制は中国の「ネットワーク安全法」「インターネット情報サービスアルゴリズム推奨管理規定」「インターネット情報サービス深層合成管理規定」「生成型AI管理暫定措置」などの法的枠組みに基づいて制定されている。
規制は中国の国家インターネット情報弁公室（国家互联网信息办公室/CAC）、工業情報化部（工业和信息化部）、公安部（公安部）、国家放送テレビ総局（国家广播电视总局）の4機関が連名で発表した。
規制導入の背景には、AIによって生成されたコンテンツを人間が作成したコンテンツと区別できるようにし、誤情報の拡散を防止するという目的がある。この法律は「人工知能の健全な発展を促進し、AI生成合成コンテンツの標識を規範化し、市民、法人、その他の組織の法的権利を保護し、社会的公共利益を維持するため」に制定されたと説明されている。
この規則は「AIによって生成されたコンテンツによるインターネットユーザーの混乱や誤情報の拡散を防止する」ことを目的としているようで、中国当局はこの規制に関するFAQを公開しており、そこでは偽情報の拡散防止とAI産業の発展と国家安全保障のバランスの必要性について言及している。
規制の施行とコンプライアンス
違反者に対する具体的な罰則は明記されていないが、規制では中国のネット情報、電気通信、公安、放送テレビなどの関連当局が法律や行政規則に基づいて処理するとしている。具体的な罰則は明記されていないものの中国政府からの法的措置のリスクが常に存在することは忘れてはならない。
サービス提供者はアルゴリズム登録や安全評価などの手続きを履行する際に、この規則に従ってAI生成合成コンテンツの標識に関連する資料を提供し、標識情報の共有を強化して、関連する違法・犯罪活動の防止と打撃に支援と協力を提供することが求められている。
国際的文脈：グローバルなAI規制の一環
中国のこの動きはAI技術の発展と利用を管理しようとする国際的な流れの一部と見られている。EUは2024年にAI法（Artificial Intelligence Act）を制定しており、中国の規制はその流れに沿ったものと言えるだろう。
CACは中国国内のインターネットを制限・管理する「グレートファイアウォール」の運用で知られており、今回の規制に対しては批判的な見方もある。しかし、AIの急速な発展に伴い、自動生成されたコンテンツが人間が作成したものと区別がつかなくなっていることへの対応策として、こうしたマーキングの義務化は誤情報拡散の防止に役立つとの見方も一定程度はある。
Sources
