OpenAIは2026年11月20日、AIモデルの内部推論を不正に抽出する攻撃への対策を強化し、社内試験で攻撃成功率がGPT-6 Astraの54.0%からGPT-6.2 Astraの0.2%に低下したと発表した。保護対象となるのは、モデルが回答を組み立てる際に生成する、通常は利用者に公開されない内部推論(Chain-of-Thought:CoT)だ。AIの「蒸留」は、あるモデルの出力を使って別のモデルを学習・改善する手法だが、OpenAIは出力や内部推論を無断で収集し、別のモデルに能力を移す行為を「敵対的蒸留」と呼んでいる。今回の発表では、内部推論の抽出を防ぐ技術的対策に加え、大規模な蒸留活動の検知とアカウントへの措置についても説明している。

AD

内部推論の抽出成功率が54.0%から0.2%に低下

OpenAIが公表したのは、保護対象の内部推論を抽出する攻撃の平均成功率だ。実際のサービスに近い環境を用意し、外部利用者と同じ範囲の情報しか得られない条件で「適応型ブラックボックス評価」を実施した。これは、モデルの応答に応じて攻撃手法を変更しながら、内部推論をどこまで引き出せるかを調べる試験である。攻撃側には6種類のAIモデルを使用し、それぞれの結果を集計した。さらに、過去のリクエストで生成された推論を抽出する攻撃と、現在のリクエストで生成された推論を抽出する攻撃を分けて評価している。

OpenAIの発表とGPT-6.2システムカードに示された測定結果は次のとおりだ。

抽出対象の内部推論 GPT-6 Astra GPT-6.2 Astra GPT-6.2 Sol
過去のリクエストで生成 54.0% 0.2% 0.5%
現在のリクエストで生成 22.9% 0.9% 0.8%

GPT-6.2 AstraとGPT-6.2 Solでは、どちらの攻撃でも成功率が1%を下回った。特に、過去のリクエストから内部推論を抽出する攻撃では、GPT-6 Astraの54.0%に対してGPT-6.2 Astraは0.2%となり、大幅な改善が見られた。ただし、比較対象のGPT-6 Astraには従来の保護策が、新しいモデルには更新された保護策が適用されているため、この結果はモデル自体の変更と保護策の強化を合わせた効果を示すものだ。OpenAIによると、新しい保護策の一部はGPT-6 Astraにも適用されている。

個々のリクエストを保護し、組織的な蒸留活動も検知

OpenAIは内部推論の流出を防ぐため、モデル自体の訓練、入出力の検査、API側の制御を組み合わせている。モデルには保護対象の推論を回答に含めないよう訓練を施し、入力側では分類器を使って推論の抽出を狙うリクエストを検知する。出力側でも分類器がアシスタントのメッセージやツール呼び出しの引数を検査し、内部推論が外部に漏れるのを防ぐ。応答を少しずつ返すストリーミング出力も検査対象となり、流出の疑いがある内容は利用者に届く前にブロックできる仕組みだ。

API側でも、内部推論を不正に引き出すための経路を制限している。GPT-6.2 AstraとSolでは、保護対象の推論を、その推論が生成された会話履歴に結び付けることで、別の会話などからの不正な参照を防ぐ。また、保護策が弱い旧世代のモデルが、GPT-6.2 AstraとSolの内部推論を読み取れないようにしている。このため、APIを利用する開発者が同じ会話の途中でモデルを切り替える場合、切り替え先によって以前の内部推論を引き継げる範囲が異なる。

こうしたリクエスト単位の保護と並行して、OpenAIは複数のアカウントを使った組織的な蒸留活動も監視している。個々のリクエストから得られる兆候と、複数アカウントの利用状況に共通するパターンを分析し、規約違反が確認された場合はアカウントの制限や停止などの措置を取る。内部推論の抽出は知的財産の問題にとどまらず、元のモデルの安全対策を伴わない能力の移転につながるため、OpenAIは安全上のリスクとして対応している。

組織的な活動の規模は、OpenAIが9月30日に公表した調査報告からも分かる。同社によると、7月24~25日の2日間に、4,000人を超えるユーザーから内部推論の抽出に関連するパターンを用いた約1万6,000件のリクエストが送られた。その後の調査では、1万5,000人を超えるユーザー群から関連する活動が見つかり、7月28日までにすべて阻止したという。OpenAIはアカウントの停止や制限、新規登録に対する管理の強化などを実施し、活動が外部サービスに移った際には、そのサービス提供者とも連携して対応した。

AD

OpenAIとAnthropic、異なる指標で蒸留対策の効果を測定

OpenAIは11月20日の発表で、2026年に同社サービス上で複数の無断の蒸留活動を確認したと明らかにした。これらの活動に対するアカウントへの措置は、週あたり数千~数万件規模に達し、夏には措置のペースが大幅に上がったという。同社は不正利用の発生状況だけでなく、活動を検知してから措置を実施するまでの時間も追跡している。

蒸留攻撃への対策はOpenAIに限った取り組みではない。11月20日付のThe Decoderの報道でも取り上げられたAnthropicは、一般提供中の上位モデルに二段階の分類器を導入し、内部推論の抽出を繰り返すアカウントに利用制限や停止措置を適用している。同社によると、蒸留活動に関連する数万のアカウントを停止しており、活動を開始してから2時間未満で停止に至った例も多い。ただし、OpenAIが追跡しているのは検知から措置までの時間であるのに対し、Anthropicの報告は蒸留活動の開始からアカウント停止までの時間を示している。

Anthropicが対策の効果を測るうえで重視しているのは、攻撃側が実際に取得したと推計されるデータ量だ。同社は10月12日の発表で、新しい分類器の導入後、蒸留を試みる側が取得したClaudeの内部推論トークン数が、導入前と比べて約90~99%減少したと報告した。これは推論トークンの取得量が約10分の1~100分の1になったことを意味する。Anthropicは、自社サービスから不正に取得されたとみられる推論トークン数を推計し、対策導入前後の変化を比較している。

OpenAIとAnthropicが公表した数値は、いずれも蒸留対策に関するものだが、測定している対象が異なる。抽出成功率は試行が成功した割合、措置対象アカウント数は不正利用への対応規模、取得データ量は流出したと推計される情報の規模を表す。両社では評価の母集団や集計期間、測定方法も異なるため、それぞれの数値を直接比較することはできない。

公表主体・資料 公表値 測定対象と条件 公表値から判断できないこと
OpenAIの抽出耐性評価(2026年11月20日) 0.2% 社内試験。GPT-6.2 Astraが過去のリクエストで生成した内部推論の平均抽出成功率。6種類の攻撃モデルの結果を集計 試行総数や結果のばらつき、個々の保護策の寄与、実運用全体での抽出成功率
OpenAIの検知・措置報告(2026年11月20日) 週あたり数千~数万アカウント 実運用で確認した無断の蒸留活動に対し、2026年に週ごとに措置したアカウント数 週別の内訳、措置対象となり得るアカウントの母数、取得された推論の量
Anthropicの効果測定(2026年10月12日) 約90~99%減少 対策導入前後で、自社サービスから不正に取得されたとみられるClaudeの推論トークン数を比較した推計値 推計の基になった導入前後のトークン総数

OpenAIが公表した週あたりの措置件数は、不正な蒸留活動そのものが増えた場合だけでなく、従来は見逃していた活動を検知できるようになった場合にも増加する。一方、取得データ量の大幅な減少を報告したAnthropicは、高度で執拗な回避の試みはまだ観測しておらず、対策の効果がどれほど持続するかについては判断を留保している。

実運用での防御効果を評価するには、対象と期間をそろえたうえで、検知から措置までの時間と、その間に取得されたと推計される推論トークン数を合わせて調べることが重要になる。単にアカウントへの措置が増えたり、対応が早くなったりするだけでなく、実際に持ち出される内部推論の量が減っているかが、対策の実効性を判断する指標となる。