OpenAIは2026年10月5日、欧州連合（EU）で提供するChatGPTとCodexの対象となるテキスト出力に、目に見えない透かしを導入すると発表した。無料を含む全プランへ今後数週間かけて展開する一方、世界のAPI利用者には同日から、一部モデルで任意に有効化できる設定を提供する。EU AI Actが求める、AI生成物を機械的に識別できるようにする義務への対応だ。

ただし、今回導入される「textGrain」の透かしから、人間が文章をどこまで書いたのかを判定できるわけではない。生成の仕組みや検出試験、EUの条文を照らし合わせると、分かるのはAIが生成に関与した可能性までであり、誰が文章を書いたのか、公開時に誰が責任を負うのかという判断とは隔たりがある。

AD

EU向けChatGPT・Codexと、世界のAPIでは導入方法が異なる

EUの対象となるChatGPT・Codexユーザーには、無料を含む全プランでテキストへの透かしを導入する。ただし、発表時点ですべてのユーザーへの適用が完了したわけではなく、展開時期は「今後数週間」とされている。OpenAIは、当初から世界共通の標準設定にするわけではないとも説明している。公式発表では、提供経路ごとに次のように扱いを分けている。

提供経路 発表された範囲 開始時期・設定
ChatGPT・Codex EUの対象ユーザー、全プラン 今後数週間で段階的に導入
OpenAI API 全世界の顧客、一部モデル 10月5日から選択可能、初期設定は無効
クラウドパートナー経由 パートナーが提供するOpenAIモデルの出力 今後数週間で利用可能にする予定

APIでは、組織全体または特定のプロジェクト単位で、対応モデルの透かしを有効にできる。公式FAQによると、設定を有効にしたモデルは生成時に自動で透かしを埋め込むため、利用者が各出力に別途マーキングを追加する必要はない。

ただし、透かしを有効にしたからといって、その文章を判定する検出器まで使えるようになるわけではない。検出器の利用申請は別に行う必要があり、当初は承認を受けた研究者や専門機関などに限定される。

Codexが対象に含まれることも、あらゆる生成コードへ透かしが入ることを意味しない。欧州委員会のFAQでは、ソースコードはマーキング義務の対象外とされている。コードそのものと、その周囲に生成される説明文や報告文は分けて考える必要がある。

単語を選ぶ確率に偏りを加える「textGrain」

textGrainは、文章に隠し文字や不可視の空白を埋め込む方式ではない。モデルが次に出力する単語や語の断片を選ぶ確率をわずかに調整し、文章全体に統計的な偏りを残す。文字列をコピーしても、表現を変えなければ、その語の選ばれ方に残された信号も基本的には引き継がれる。

一般的なAI文章判定器が、完成した文章の文体などからAI生成かどうかを推定するのに対し、textGrainでは生成時に意図的に埋め込んだ統計的な信号を検出する。

同日に公開された技術報告には、OpenAIのほか、ペンシルベニア大学とイェール大学の研究者が名を連ねている。査読済み論文としてではなく、導入する方式の数学的な仕組みを説明する技術報告として公開された。

言語モデルは、文章を「トークン」と呼ばれる単位で順番に生成する。トークンは一つの単語に相当する場合もあれば、単語の一部になる場合もあり、文字数や単語数とは一致しない。

技術報告の第3節では、秘密鍵と直前までの文章を使い、次に選べるトークンの候補を複数のグループに分ける。それぞれのグループが選ばれる確率を調整したうえで、グループ内では元の相対的な確率に従ってトークンを選択する。

検出器は同じ秘密鍵と設定を使ってグループ分けを再現し、実際に選ばれたトークンが、透かしを埋め込んだ場合に生じる偏りを偶然以上の頻度で示しているかを調べる。検出時に、元のプロンプトや生成に使ったモデルそのものは必要ない。

この設計には、同じ質問に対して毎回同じ回答になってしまうことを避ける工夫もある。秘密鍵に基づいて常に特定の語を選ぶ方式なら、強い信号を残しやすい。一方で、同じ入力から異なる回答を生成する余地が失われる。

技術報告で比較対象として挙げられているGumbel-max型の透かしでは、文脈と秘密鍵を固定すると選ばれるトークンが決まり、同じ条件で繰り返し生成した場合に同じ回答になり得る。

そこでtextGrainでは、透かしのためにどこまで生成時のランダム性を制約するかを調整できるようにした。「最適輸送」と呼ばれる数学的手法を使い、透かしを検出しやすくすることと、回答の多様性を残すことの両立を図る。

複数の調整済み確率分布を平均すると、元の次トークンの確率分布に戻るよう設計されている。ただし、これは技術報告が定めた条件下で成り立つ平均的な性質であり、個々の文章について品質や多様性が一切変化しないことを保証するものではない。

品質についてOpenAIは、Astraをmax設定で動かし、8種類のベンチマークを比較した結果、意味のある性能差は確認されなかったとしている。例えばGPQA Diamondは透かしなしで94.44%、透かしありで93.94%、DeepSWE v1.1はそれぞれ72.80%と71.68%だった。

FAQでも、過去のChatGPTを使った試験では低評価率などに変化が見られず、生成速度への影響も無視できる程度だったと説明している。ただし、これらはいずれもOpenAI自身による評価だ。ベンチマークの得点と、文体や複数回答の多様性を同じものとして評価することはできない。

AD

「95%検出」が意味するもの

OpenAIが示した約95%という数字は、透かしを埋め込んだ文章のうち、検出器が正しく検出できた割合を指す。「陽性と判定された文章が95%の確率でAIによる著作物である」という意味ではない。

そもそも検出器は、人間がどの程度判断や編集、創作に関わったかを測定するものではない。

OpenAIの評価では、透かしのない文章を誤って陽性と判定する「偽陽性率」を1%に設定した場合、心理学などの分野の回答で、200トークンなら検出率は約80%、400トークンなら約95%だった。評価には、専門的な内容を平易に説明するELI5データセットが使われている。

一方、数学のように表現の選択肢が限られる内容では、検出率が大きく低下するという。答えや記号表現がほぼ決まっている場合、透かしの信号を残すために別の語句を選ぶ余地も小さくなるためだ。

別の編集耐性の評価では、400トークンの英語によるELI5回答を用意し、その一部を同義語へ置き換えた。

同義語に置き換えた語の割合 透かしの検出率
置換なし 約92%
10% 66%
25% 17%

一部の単語を言い換えるだけでも、検出器が利用する統計的な信号は大きく弱まる。この試験では編集前の検出率が約92%であり、先ほどの心理学などを対象とした400トークンの評価で示された約95%とは、条件が異なるため分けて見る必要がある。

また、この結果から、日本語でも同じ割合の単語を置き換えれば同程度まで検出率が下がるとは言えない。

言語による違いも小さくない。公式FAQによると、OpenAIは500件の英語の合成プロンプトを作成し、それをほかの23言語へ翻訳して、EUの公用語24言語で評価した。

偽陽性率を1%とした場合、検出率はスペイン語で69.0%、ルーマニア語で42.2%だった。検出率が60%を下回る言語については、より強い透かしを使った改善結果も示されている。

ただし、このFAQでは文章長などの詳しい条件が示されておらず、心理学の400トークン評価と単純には比較できない。日本語も、この24言語の評価には含まれていない。

検出されなかった文章についても、短文だったことや、人による編集、翻訳などによって信号が弱まった可能性が残る。そもそも透かしに対応していないモデルや、導入前に生成された文章、他社モデルの出力もある。

したがって、陽性でも陰性でも、その判定だけから人間がどの程度文章を書いたのかを確定することはできない。

透かしが検出されたことと、公開時の表示義務は別の問題

EU AI Actの第50条2項は、生成AIシステムの提供者に対し、出力を機械可読な形でマーキングし、人工的に生成または加工されたものだと検出できるようにすることを求めている。

一方、第50条4項では、公共的な関心事項について公衆へ知らせる目的でAI生成・加工された文章を公開する側、つまりAIシステムを利用する「導入者」に対し、その事実を表示する責任を課している。

生成時に透かしを埋め込む主体と、公開時に読者へAI利用を知らせる主体は同じとは限らない。

第50条4項には、人間によるレビューや編集上の統制が行われ、自然人または法人が出版物について編集責任を負う場合の例外が設けられている。人間が内容を実質的に審査し、編集責任を負って公開する公共的な文章であれば、生成時の透かしが残っていても、第50条4項に基づく表示義務の例外となる可能性がある。

OpenAIの10月5日の説明と、欧州委員会が示す条文やFAQを照らし合わせると、次のように整理できる。EU法の対象となるAI提供者と、公共的な事項について文章を公開する導入者を想定した一般的な分類であり、個別の文章について法的結論を示すものではない。

文章の作成・確認の過程 生成段階のマーキング 公開時の表示
AIが生成し、人間による実質的な審査を行わない 提供者側の義務の対象 第50条4項の表示義務の対象
AIの原稿を人間が実質的に審査し、編集責任も負う 生成時の透かしが残る可能性がある 第50条4項の例外となる可能性
元原稿の意味を変えず、誤字や文法だけをAIで修正する 第50条2項が定める標準的な編集支援の例外となる可能性 元原稿がどう作られたかと、公開条件を別途確認

欧州委員会のFAQは、誤字や文法を直すだけの形式的な確認について、第50条4項が想定する人間によるレビューや編集統制には当たらないと説明している。

AIが生成した原稿を人間が単に確認して承認することと、知識や専門的な判断を使って内容を実質的に検証・編集することは同じではない。

また、公開する側のレビューを理由とする第50条4項の例外を、提供者側に課される第50条2項のマーキング義務へそのまま適用することもできない。

APIで透かしが任意設定になっている点についても、EUで適用される法的義務そのものが任意になったわけではない。製品上、透かし機能を有効にするかどうかという設定と、法律上どの主体にどの義務が適用されるかは分けて考える必要がある。

AD

検出器を限定公開する理由と、残された課題

OpenAIは以前から、文章への透かし導入には慎重な姿勢を示してきた。2024年8月4日の公式更新では、すでに透かし技術を開発していたものの、代替策も含めて研究しながら導入を検討していると説明していた。

当時の方式については、部分的な書き換えには比較的強い一方、翻訳や別の生成モデルによる大幅な書き換えには弱いとしていた。また、英語を母語としない利用者が文章作成の補助としてAIを使った場合に、不当に疑いを向けられる可能性も懸念していた。

今回の発表でも、OpenAIは文章への透かしとその検出について、大きな制約が残る初期段階の技術だと説明している。以前に示した懸念が解消されたと宣言したわけではない。

今回は、EUの法的要件と現在の技術的な限界の双方を踏まえ、まずEUで透かしを導入するとともに、検出器へのアクセスを限定し、実際の利用環境で結果を検証する方針を取ったといえる。

EUの透明性に関する行動規範では、自由記述のテキストに対する透かし検出の信頼性が十分でない間は、検出器へのアクセスを確認済みの専門家に限定できるとしている。本文の第2.1.2項では、研究者だけでなく、規制当局や報道機関なども対象として想定されている。

OpenAIが当初、検出器を一般公開しない方針を取っているのは、こうした技術上の制約を踏まえた制度設計とも整合する。ただし、OpenAIが初期段階で利用を認める対象と、行動規範が想定する専門家すべてが一致するとは限らない。

行動規範への参加は任意だが、EU AI Act第50条に定められた法的義務そのものは任意ではない。

行動規範では、メタデータを保持しにくい自由記述テキストについて、不可視の透かしだけで対応する方式も認めている。また、200トークン未満の文章については、現在の技術では基本的な信頼性を確保することが難しい「非常に短い文章」として例外扱いしている。

つまり、透かし技術を導入できることと、あらゆる短文を確実に検出できることの間にも隔たりがある。

透明性義務は2026年8月2日から適用されているが、それ以前に市場へ投入された既存システムについて、第50条2項のマーキング・検出義務には12月2日までの猶予が設けられている。

この猶予が適用されるのは第50条2項であり、公開時の表示など、ほかの透明性義務まで一律に延期されるわけではない。OpenAIが「今後数週間」で展開するとしている点についても、新規システムと既存システムを同じ期限で考えることはできない。

OpenAIは今後、textGrainをオープンソース化する計画も示している。ただし、方式そのものが公開されたからといって、誰でもOpenAIの本番サービスから生成された文章を判定できるようになるとは限らない。

検出には対応する秘密鍵と設定が必要であり、一般利用者に検出器を公開する時期も示されていない。

今後、各言語の実際の文章や、人間とAIが共同で編集した原稿について独立した検証が進めば、透かしを「AIが生成に関与した手掛かり」として、どのような場面でどこまで利用できるのかを判断しやすくなる。