欧州委員会（European Commission）は2026年1月26日、Elon Musk氏率いるX（旧Twitter）に対し、デジタルサービス法（DSA）に基づく新たな正式調査を開始した。
焦点となっているのは、Xが展開するAIツール「Grok」である。このAIが生成する性的で暴力的な画像、とりわけ実在の人物を同意なく性的に描写したディープフェイクや児童性的虐待資料（CSAM）の拡散に対し、Xが十分なリスク評価と緩和策を講じていなかった疑いが持たれている。
これは単なる「コンテンツモデレーションの不備」に対する警告ではない。生成AIがもたらす実害に対し、世界で最も厳格なIT規制であるDSAがどのように適用されるかを示す、テクノロジー業界全体にとっての試金石となる事件である。
危機的状況の顕在化：なぜ今、Grokが標的となったのか
事態が急激に動いた背景には、Grokが引き起こした具体的な「実害」がある。
1.8万枚の「悪夢」と機能的な欠陥
事の発端はGrokの画像生成機能にある。ユーザーがGrokに対し、実在の女性や子供の写真をアップロードし、「服を脱がせる」あるいは「性的な状況を描写する」ようなプロンプトを入力した際、Grokはこれを拒絶するのではなく、忠実に実行してしまった。
Center for Countering Digital Hate（CCDH）の調査によると、Musk氏自身がGrokで生成されたビキニ姿の画像を投稿した2025年末以降、わずか9日間で少なくとも180万枚もの性的な画像がX上で生成・拡散されたという。そのうち約65%が女性や子供を対象としたものであった。
「意図せざる欠陥」ではなく「設計されたリスク」か
ここで問われているのは、バグによる偶発的な事故ではない。OpenAIのChatGPTやGoogleのGeminiが、リリース初期から厳格なガードレール（安全装置）を組み込み、性的コンテンツや暴力的な生成を拒否する設計を優先したのに対し、xAI（Grokの開発元）は「最大限の真実探求（maximally truth-seeking）」を掲げ、競合他社に比べて意図的にガードレールを低く設定していた節がある。
欧州委員会は、この設計思想がDSAで義務付けられている「システミックリスクの評価と緩和」に違反していると見ている。つまり、「AIが暴走した」のではなく、「暴走を許容する状態でリリースした経営判断」が問われているのである。
欧州委員会の二重の包囲網：2つの調査トラック
今回の発表において重要なのは、欧州委員会が単にGrokを調査するだけでなく、既存の調査を拡大した点にある。調査は大きく分けて以下の2つのトラックで進行する。
トラック1：Grokの実装に関する新規調査
第一の焦点は、Grokの機能展開における違法性だ。
- リスク評価の欠如: XはGrokをEU圏内で展開する際、それがもたらす「違法コンテンツの拡散」「ジェンダーに基づく暴力」「身体的・精神的健康への悪影響」といったリスクを事前に評価し、緩和策を講じたか。
- レポート提出義務違反: リスクプロファイルに重大な影響を与える新機能（Grok）の導入前に、委員会へリスク評価レポートを提出したか。
欧州委員会の技術主権・セキュリティ・民主主義担当副委員長であるHenna Virkkunen氏は、「女性や子供の性的なディープフェイクは、暴力的で容認できない品位の毀損である」と断じ、Xが欧州市民の権利を「サービスの付随的損害（collateral damage）」として扱ったのかどうかを見極めると強く牽制している。
トラック2：レコメンデーションシステム調査の拡大
第二の焦点は、2023年12月から続いているXに対する調査の範囲拡大だ。ここでは、Xのアルゴリズムそのものが問われている。
Xは最近、プラットフォームのレコメンデーション（おすすめ表示）システムをGrokベースの技術に切り替えると発表した。もしGrok自体にバイアスがあり、有害なコンテンツを生成・選好する傾向があるならば、それを基盤としたレコメンデーションシステムは、有害コンテンツをユーザーのフィードに「意図的に」拡散させる増幅装置となり得る。委員会は、このシステム移行がもたらすシステミックリスクについても厳格な審査を行う構えだ。
Xの対応と「侮辱的」な解決策
世界的な批判の高まりを受け、XとxAIは沈黙していたわけではない。しかし、その対応策は火に油を注ぐ結果となった。
ペイウォールという名の「安全対策」
世界中の批判を受け、XはGrokによる画像生成機能を「有料サブスクリプションユーザー（X Premium）」に限定するという措置をとった。また、特定の露出度の高い服装（ビキニなど）の生成を制限する技術的措置を講じたと主張している。
しかし、これは根本的な解決になっていないという指摘が相次いでいる。英国首相の報道官は、この対応を「ミソジニー（女性蔑視）や性暴力の被害者に対する侮辱」であると非難した。なぜなら、違法な画像を生成する機能を「削除」するのではなく、「有料サービス化」したように見えるからだ。安全性を「課金ユーザーへの特典」として扱うかのような態度は、規制当局の心証をさらに悪化させている。
EU当局者も、「これまでに講じられた緩和策が状況をコントロールできているとは確信していない」と述べ、暫定的な措置の発動も辞さない構えを見せている。
制裁の行方：売上高の6%という巨大なリスク
今回の調査がXにとって致命的になり得るのは、DSAが定める罰則の規模による。
過去の制裁金とは桁が違う可能性
Xはすでに2025年12月、広告の透明性不足や研究者へのデータアクセス不備などを理由に、欧州委員会から1億2000万ユーロ（約1億4000万ドル相当）の制裁金を科されている。しかし、今回の違反が認定されれば、その額は跳ね上がる可能性がある。
DSA違反に対する制裁金の上限は、企業の全世界年間売上高の6%である。Xは非公開企業となったため正確な財務状況は不明だが、The Registerの試算によれば推定売上高29億ドルとして約1億7400万ドル規模になる可能性がある。しかし、問題は金額だけではない。
繰り返される違反と「不適合決定」
委員会は、Xの対応に改善が見られない場合、是正命令を含む「不適合決定（non-compliance decision）」を下す権限を持つ。最悪の場合、EU域内でのサービス一時停止命令に繋がるリスクすら孕んでいる。アイルランドのデジタルサービス調整官（Coimisiún na Meán）との連携強化は、EU全体で包囲網を狭めている証左である。
AI開発における「自由」と「責任」の衝突
このニュースを単なる「Xの不祥事」として片付けるべきではない。ここには、今後の生成AIビジネスを左右する構造的な対立が存在する。
1. 「ガードレール」は機能か、検閲か
Elon Musk氏は常々、既存のAIモデル（ChatGPTなど）を「woke（目覚めた、リベラル偏重）」であると批判し、Grokを「検閲のない真実」を語るAIとして位置づけてきた。しかし、今回の件で明らかになったのは、「検閲の排除」と「安全性の欠如」は表裏一体であるという現実だ。
性的なディープフェイクやCSAMの生成を防ぐガードレールを「検閲」と呼んで撤廃すれば、プラットフォームは即座に犯罪の温床となる。EUの調査は、AI開発における「表現の自由」絶対主義に対し、法的な限界線を引こうとしている。
2. アルゴリズムの透明性と説明責任
Grokをレコメンデーションシステムの中核に据えるというXの戦略は、AIの幻覚（ハルシネーション）やバイアスが、コンテンツ生成だけでなく、情報の流通経路（誰に何を見せるか）まで汚染するリスクを示唆している。
EUが懸念しているのは、AIが生成した偽情報や有害コンテンツを、同じAIがアルゴリズムで増幅し、エコチェンバーを加速させる「負のループ」の完成である。
グローバルな規制の波及
この問題はEUに留まらない。英国のOfcom、米国のカリフォルニア州司法長官、さらにはインドやマレーシア（一部禁止措置）など、世界各国の規制当局がGrokに対する監視を強めている。
EUのDSAは、事実上の世界標準（ブリュッセル効果）として機能する傾向がある。今回の調査結果と司法判断は、今後のAI規制、特に「基盤モデルを提供するプラットフォーマーは、ユーザーが生成したコンテンツに対してどこまで法的責任を負うべきか」という問いに対する重要な判例となるだろう。
Xにとって、これは単なる機能修正の問題ではない。規制当局との対話、リスク管理体制の刷新、そして何より「安全性」をビジネスモデルの中核に据え直せるかどうかが問われる、存亡をかけた正念場である。
Sources
