国際会議「Internet Measurement Conference(IMC 2026)」に採録された論文で、Zilong Lin氏ら4人の研究者が、安全装置を解除した大規模言語モデル(LLM)の流通実態を明らかにした。研究チームはHugging Faceなど5つのモデル配布基盤を調査し、安全装置が削除・弱体化されているか、初めから備わっていない「検閲解除LLM」を2万2096件確認した。筆頭著者のLin氏によると、これらのモデルのうち警告表示が付いていたのは約13%にすぎない。
この調査が浮き彫りにしたのは、モデルの安全装置を解除する技術だけでなく、改変されたモデルが複製・再配布される過程でリスク情報が失われる問題だ。EUのAI規制法「AI Act」は汎用AIモデルの提供者に文書化などを求めているが、既存モデルを小規模な計算で改変した開発者や、その改変版を再配布する者には、提供者としての義務が及びにくいと考えられる。元モデルの学習計算量をEUの目安に設定した試算では、40億パラメータ級モデルの安全装置を解除する計算量は、改変者を新たな提供者とみなす判断基準の約5万分の1にとどまった。
安全装置を解除したLLMが2万件超、警告表示は約13%
筆頭著者のLin氏は、ミズーリ大学カンザスシティ校の助教である。同氏が2026年11月17日に公開した研究解説によると、調査の集計基準日は2026年3月1日で、対象はHugging Face、OpenCSG、ModelScope、Kaggle、John Snow Labsの5つの配布基盤だ。確認された2万2096件の検閲解除LLMは2100人以上の開発者によって公開されており、2026年2月の1か月間だけでも681件が新たに登場した。
約70%のモデルは、公開メタデータで安全上の制限を解除していることを自ら明示していた。また、1万1000件以上は、悪意あるコードの生成や攻撃的なサイバーセキュリティ用途など、有害な用途に関連する機能を掲げていた。利用規模も小さくなく、100万回以上ダウンロードされたモデルは67件に達する。
一方、モデレーションによる警告表示が付いていたのは全体の約13%だった。さらに、モデルに関する脅威情報は、異なる配布基盤へ複製される際に一貫して引き継がれていなかった。Lin氏は、モデルそのものは、そのリスクを評価するために必要な情報よりも容易に移動できると指摘している。安全装置が解除されたモデルが再配布されるにつれ、利用者がリスクを把握するための情報が失われていく構造が明らかになった。
4Bモデルの安全装置解除に必要な計算量は、EUの判断基準の約5万分の1
LLMの安全装置を解除する手法として普及しているのが、モデルの拒否応答に関係する内部表現を取り除く「abliteration」だ。Arditi氏らの研究では、公開されている13種類の対話モデルを調べ、有害な指示を拒否する振る舞いが、モデル内部の特定の方向と強く結び付いていることを示した。この方向の成分を重みから取り除くと、モデルは従来拒否していた要求にも応答するようになる。こうした改変は、通常の追加学習をほとんど必要としない。
現在は、この種の改変を自動化するツールも公開されている。Philipp Emanuel Weidmann氏が開発したHereticはその一例で、開発者の説明によると、NVIDIA GeForce RTX 3090を使用した既定の設定では、40億パラメータ級の対話モデル「Qwen3-4B-Instruct-2507」を約30〜40分で処理できる。Hereticの標準設定では、独自に開発された「Arbitrary-Rank Ablation(ARA)」という手法が使われている。
一方、EU AI Actでは、汎用AIモデルの学習計算量を規制対象の判断材料としている。欧州委員会のガイドラインとFAQでは、学習計算量が10^23 FLOP(浮動小数点演算回数)を超えることを、汎用AIモデルに該当するかを判断する目安の一つとしている。また、既存の汎用AIモデルを改変した開発者が、新たなモデルの「提供者」として義務を負うかについては、改変によってモデルの汎用性、能力、システミックリスクが大きく変化したかが判断材料となる。
その具体的な目安として示されているのが、改変に使った学習計算量が元モデルの学習計算量の3分の1を超えるかという基準だ。欧州委員会は、この水準に達する改変は例外的であり、通常のファインチューニングや小規模な改変の大半は、新たな提供者としての義務を生じさせないと説明している。ただし、計算量は重要な判断指標であって、これを下回れば必ず義務を免れるという法定の一律基準ではない。ガイドライン自体にも法的拘束力はない。
元モデルの提供者についても、一定の例外が設けられている。規則(EU)2024/1689の第53条2項では、オープンソースライセンスで重みなどを公開する汎用AIモデルについて、当局向けの技術文書の作成と、下流の提供者への情報提供に関する義務を免除している。ただし、著作権方針の整備と学習データの概要の公開義務は残る。また、システミックリスクがある汎用AIモデルには、この例外が適用されない。
安全装置の解除に必要な計算量と、欧州委員会の判断基準を比較すると、その差は極めて大きい。NVIDIAのGA102アーキテクチャに関するホワイトペーパーによると、RTX 3090のFP16 Tensor演算性能の理論最大値は、密行列演算で142 TFLOPS、スパース演算で284 TFLOPSだ。1 TFLOPSは毎秒1兆回の浮動小数点演算に相当する。
Hereticの処理時間を長い方の40分(2400秒)とし、その間ずっとスパース演算の理論最大性能である284 TFLOPSを維持できたと仮定する。この場合、処理全体の演算回数は約6.8×10^17 FLOPとなる。元モデルの学習計算量が汎用AIモデルの目安である10^23 FLOPちょうどだった場合、改変者を提供者とみなす判断基準はその3分の1、約3.3×10^22 FLOPとなり、安全装置の解除に使う計算量は約5万分の1にすぎない。密行列演算の142 TFLOPSを使えば、約9万8000分の1となる。
この試算には3つの留意点がある。第一に、abliterationは主にモデルの順伝播と重みの射影による処理であり、その演算回数をAI Act上の「学習計算量」にどこまで含めるかは明確ではない。第二に、欧州委員会のガイドラインとFAQは法的拘束力を持つ解釈ではない。第三に、元モデルの実際の学習計算量が10^23 FLOPを上回る場合、改変者を提供者とみなす計算量の目安も高くなり、両者の差はさらに広がる。なお、ここで求めた演算回数はGPUの理論最大性能を処理時間全体に適用した概算であり、実際に消費した計算量の測定値ではない。
さらに、改変されたモデルを再配布する作業は、安全装置を解除する作業よりも軽い。GGUFやGPTQなどの形式で公開されるモデルの多くは、学習済みの重みを量子化して容量を削減したものだ。こうした変換は通常、追加学習を必要としないため、再配布者が計算量を目安とする改変者の判断基準に該当する可能性は、いっそう低いと考えられる。
Hugging Faceの検閲解除モデル、約7割が再配布版
検閲解除モデルの流通を支えているのは、安全装置を解除する開発者だけではない。モデルが公開されると、別のアカウントが重みを量子化し、個人のPCでも動かしやすい形式に変換して再公開する。量子化は重みをより少ないビット数で表現することで、モデルの容量と実行時に必要なメモリを削減する技術だ。
10a Labsが2026年9月に公開した査読前論文は、この再配布の実態を調査している。同社が2024年1月から2026年3月までにHugging Faceで確認した検閲解除モデルのリポジトリ1万1635件のうち、8164件、約70%が量子化などによって圧縮された再配布版だった。元モデルは3471件で、1件当たり平均2.4件の再配布版が作られていた。さらに、再配布版の52%をわずか3つのアカウントが公開していた。
この分析では、モデルの分類にGPT-5を使用しており、複数のモデルを統合したものや、他の配布先にあるコピーは集計対象に含めていない。上位3アカウントのうち1つは調査期間の終了後にHugging Faceから削除されたが、論文によると、そのアカウントが作成した再配布版936件は、下流のコピーとして残っていた。元の配布アカウントを削除しても、すでに複製されたモデルまで消えるわけではないことを示す事例だ。
複製されたモデルは配布基盤を越えて広がる一方、警告表示は必ずしも引き継がれない。IMC 2026に採録された論文の要旨によると、1万1094件のモデルが4457のクラスタを形成し、複数の配布基盤にまたがって複製されていた。主な複製元はHugging Faceだが、モデレーションのラベルには基盤ごとの不一致が見られた。
Hugging Faceでは、モデルカードにnot-for-all-audiencesタグを設定すると注意表示が付く。しかし、タグの設定は主にモデルの所有者に委ねられており、運営側がモデレーションの一環として追加することもある。同社のコンテンツポリシーは、悪意あるソフトウェアの作成などに関わるコンテンツを禁止しているが、違反報告を受けた場合の対応として、所有者への協力や修正の要請も挙げている。
Lin氏はThe Registerの取材に対し、モデルの安全性はファイルを調べるだけでは判断しにくく、実際にモデルを動かして有害な要求への応答を検証するには計算資源と費用が必要だと説明した。下流の利用者が個々のモデルを検証するのは容易ではないため、警告ラベルはリスクを把握するための重要な手がかりとなる。
検閲解除モデルは、すでに実際のアプリケーションにも組み込まれている。10a Labsの調査では、GitHub上で検閲解除モデルを利用するアプリのREADMEのうち、43%がOllamaを、14%がHugging Faceからの直接ダウンロードを参照していた。モデル配布基盤での管理は、その後のアプリへの組み込みや利用にも関係する。
ローカル実行を止められなくても、再配布の管理には意味があるのか
モデルの再配布を規制することへの有力な反論は、一度ダウンロードされたモデルを個人のPCで実行する行為までは止められないというものだ。安全装置の解除ツールを開発したPhilipp Emanuel Weidmann氏はNPRの取材に対し、少数の大企業がAIの利用範囲を決める状況に反対する考えを示した。NPRによると、同氏は配布基盤から検閲解除モデルが削除されても、開発したツールを公開し続けられるよう取り組んでいる。
実際、再配布の拠点を削除しても、流通を完全に止められるわけではない。10a Labsが確認した936件の再配布版は、元のアカウントが削除された後も複製として残っていた。また、米商務省の電気通信情報局(NTIA)は2024年7月、大規模AIモデルの重みの公開について、直ちに制限を設けるのではなく、リスクに関する証拠を収集しながら継続的に評価するよう勧告している。
ただし、すでに流通しているモデルを完全に回収できないことと、今後の再配布を管理できないことは別の問題だ。10a Labsは、再配布版の半数以上がわずか3つのアカウントに集中していた点に注目し、この層をモデル流通の「最も狭い地点」と位置付けている。少数の再配布拠点への対応は、元モデルの開発者に対する同様の措置よりも、下流での入手可能性に大きな影響を与える可能性があるという。同論文は、元モデルの公開を取りやめても入手可能性はあまり低下しない一方、再配布を担うアカウントへの対応には、流通を抑える余地があると分析している。
もっとも、936件の複製が残った事例からも分かるように、再配布の管理で既存のモデルをすべて回収することは難しい。現実的に対処できるのは、これから作られる複製の数や、再配布時に引き継がれる警告ラベルの扱いだ。新たな複製にリスク情報が適切に付与されれば、少なくとも利用者がモデルを選ぶ際の判断材料を増やせる。
日本では、生成AIを悪用したプログラムの作成について、利用者個人が刑事責任を問われた事例がある。2024年5月には、対話型生成AIを悪用してランサムウェアに似たプログラムを作成したとして、警視庁が川崎市の男性を逮捕し、同年10月に懲役3年、執行猶予4年の有罪判決が出た。2026年6月にも、AIを使ってランサムウェアを作成した疑いで、千葉県警が大津市の19歳を逮捕している。いずれも問題となったプログラムを作成した個人に対する刑事手続きであり、AIモデルそのものの配布経路を対象としたものではない。
今後の制度上の焦点は、欧州委員会が既存モデルの改変者や再配布者をどのように扱うかだ。安全装置を解除する改変や、その改変版の再配布について、計算量にかかわらず提供者としての義務を負うよう判断基準が見直されれば、現在の制度では捉えにくい流通経路にも文書化などの義務が及ぶ可能性がある。EU AI Actでは、2025年8月2日より前に市場へ投入された汎用AIモデルの提供者に、2027年8月2日までの対応期限が設けられており、制度の運用を見極める一つの節目となる。
一方、警告ラベルの有効性は、実際の流通データから評価できる。警告付きモデルの割合が現在の約13%から過半数に増えても、ダウンロード数やアプリへの組み込みが減らなければ、ラベルによる流通抑制効果は限定的だったことになる。今後は、警告表示の普及率と再配布の変化に加え、欧州委員会が改変者の判断基準をどう扱うかが、モデル流通の管理策を評価する具体的な指標となる。



