SNSに上げた自分の顔写真が、頼んだ覚えのない場所で他人のAI生成画像の材料にされていたとしたら、まず気味悪さを覚えるはずだ。Meta AIの新モデル「Muse Image」は、Instagramの公開アカウントを@メンションするだけで、本人の同意なく誰の画像でも生成できる設定になっていた。7月7日の公開からわずか3日、Metaはこの参照機能を全アカウント一律で撤去している。その背景では、タレント事務所や労働組合の抗議に加え、プライバシー専門家や一般ユーザーの批判が同時に集中していた。だが同意設計を巡る問題が表面化するのは、Metaにとってこれで3件目になる。
発表から3日で機能撤去に至った経緯
Meta Superintelligence Labsは2026年7月7日、同ラボ発の画像生成AIモデル「Muse Image」を発表し、Meta AIアプリとmeta.aiで提供を始めた。画像生成の実力を測るImage Arenaのランキングでは、OpenAIのGPT Image 2に次ぐ2位につけ、動画版のMuse Videoも動画生成ベンチマークで3位に入る仕上がりだったとthe-decoderは報じている。技術面の評価は高かったが、公開直後から浮上したのは性能とは別の問題だった。
Meta AIアプリには、Instagramの公開アカウントを@メンションするだけで本人の同意なくその人物の画像を生成できる機能が組み込まれていた。この設計はCAA(Creative Artists Agency)やSAG-AFTRA(全米俳優組合)、プライバシー専門家、一般ユーザーからの批判を招き、Metaは発表からわずか3日後の7月10日、当該機能の提供を終えたと発表した。「この機能は期待に応えられなかったとの声を受け、提供を終了する」とMetaは公式に認めたと、the-decoderが伝えている。撤去されたのは@メンションによる人物参照機能のみで、Muse Image自体やほかの画像生成機能は提供を続けている。
それでも、公開から3日という短さで機能そのものを完全に停止したスピードは、消費者向けAI製品としては異例だ。この速さの背景には、複数方面からの批判が同時に集中したという事情がある。
@メンションひとつでAI画像が生成される仕組みと設計の欠陥
Muse Imageの@メンション機能は、Meta AIアプリ内でInstagramの公開アカウントを@マーク付きで指定するだけで、そのアカウントの投稿写真を素材にした人物画像を生成する仕組みだった。設定はデフォルトでオン、つまりオプトアウト方式であり、本人が意思表示をしない限り誰でも他者の画像を生成できる状態が初期値になっていたとTechCrunchは報じている。自動的に除外されたのは非公開アカウントと18歳未満のアカウントのみで、成人の公開アカウントはすべて対象に含まれていた。オプトアウトの手順を知っている利用者だけが自分の画像を守れる設計であり、機能の存在自体を知らない大多数の公開アカウント保有者には保護が及んでいなかった。
この設計を、OpenAIが提供していた動画生成アプリSoraの「カメオ」機能と比べると、欠陥の所在がはっきりする。Soraのカメオは、自分の姿を他者の動画に使わせるかどうかを本人が事前に選択するオプトイン方式を土台にしていた(Soraは2026年4月に提供を終了している)。Muse ImageはGPT Image 2に次ぐ技術評価を得ながら、同意の設計だけは逆方向を向いていたことになる。
この設計上、鍵をかけていない18歳以上の公開アカウントはすべて対象に含まれており、フォロワー数の多寡や著名人であるかどうかは関係がない。Muse Imageの中核機能はMeta AIアプリを通じて日本でも利用できるため、公開アカウントを持つ日本のInstagram利用者も同じ対象範囲に含まれていたと考えられる。TechCrunchが対処法を伝える記事を公開したのは7月9日、機能撤去の前日だった。実際には、撤去されるまでオプトアウトの操作方法どころか、自分の画像が使われうるという事実そのものを知らないまま過ごしていた利用者も少なくなかったとみられる。デフォルトオンの設計は、情報を知っている一部の利用者と、知らないまま晒され続ける利用者という格差を生んでいた。
複合的な圧力が3日で機能を止めた
Metaを動かしたのは単一の抗議ではない。CAAは「本人の名前、画像、肖像、声、創作物は、明確かつ文書化された同意なしに、AIモデルを含むいかなる第三者にも使用されるべきではない」と非難する声明を出し、オプトアウト方式からオプトインへの変更を求めた。Metaが機能を撤去した後には「Metaの迅速な決定を称賛する」との評価に転じたとVarietyは伝えている。
SAG-AFTRAはX(旧Twitter)上で、会員に加え全Instagramユーザーに向けてオプトアウトの設定手順を公開したとDeadlineは報じており、「非合意のデジタル複製に伴う危険性は広く認識されているにもかかわらず、それを助長する機能を作ったことは判断ミスだ」との声明もHollywood Reporterに寄せている。EFF(電子フロンティア財団)のセキュリティ・プライバシー活動家Thorin Klosowski氏も「この設定は絶対にオプトインにすべきだ」とWashington Examinerに語った。加えてTechCrunchが7月9日にオプトアウト手順の独自ガイド記事を公開するなど、一般ユーザー・メディア側の懸念も並行して広がっていた。
タレント事務所や労働組合の声だけでこの速さが生まれたわけではない。著名な団体の抗議と、一般ユーザーやプライバシー専門家からの批判が同時期に集中しており、Metaが3日という異例の速さで対応した背景にはこの重なりがあったとみられる。機能そのものは全公開アカウントを対象に一律で撤去されており、特定の層だけに向けた対応ではない。
Metaが繰り返す同意設計の失敗
Metaにとって同意なき人物生成の問題は今回が初めてではない。2025年8月、Reutersの調査によって、Meta AIのプラットフォーム上でTaylor SwiftやScarlett Johansson等の著名人を模した無許可チャットボットが運用され、性的な誘いかけや浴槽にいる姿・下着姿の写実的な画像を生成していた実態が発覚した。多くは利用者が作成したものだったが、少なくとも3件はMeta従業員が作成したと確認されている。Metaは調査結果の公表直前に該当するボットを約12件削除したとVarietyは報じているが、この対応は個別のボットを消しただけで、同意を得ずに著名人の姿を扱えてしまう根本設計には手をつけていなかった。翌年のMuse Imageで同型の問題が再発したのは、この根本設計が放置されていたことの結果と見ていい。
Meta公式発表は、なぜ最初からオプトイン方式を採用しなかったのか、社内でどのような意思決定プロセスを経て初期設定を決めたのかについて触れていない。この沈黙自体が、同意設計がそのつど場当たり的に扱われてきたことを裏付けている。
根本設計の甘さは、2025年5月にも別の形で表面化していた。MetaがEUユーザーの公開投稿をLlamaの学習データに利用する際もオプトアウト方式を採用し、プライバシー団体NOYBが「GDPR(EU一般データ保護規則)はオプトイン同意を要求する」として法的措置を警告する事態になっている。無許可チャットボット、学習データの利用、そして今回のMuse Imageと、対象は変わっても「まず既定でオンにし、批判が来たら個別対応する」という同じパターンが繰り返されている。3件の事案を並べると、Metaが同意設計を製品の初期段階で組み込む仕組みを持たないことが浮かび上がる。
危険な機能は消えたが、判断の癖は残った
@メンション機能の全廃は、批判を浴びた具体的な機能への対応としては十分な内容だった。だが、Muse Imageの技術そのものが企業活動から退場したわけではない。Meta公式発表は、今後数週間以内に広告主・代理店がAdvantage+ creativeを通じてMuse Imageを活用できるようになるとしている。Advantage+ creativeの用途として挙げられているのは、商品背景の生成、既存広告からのライフスタイル画像バリエーション作成、動画からの静止画生成などで、実在の人物のInstagramアカウントを無断参照する機能への言及はない。批判の的になった「同意なき人物参照」の設計とAdvantage+ creativeは、少なくとも公表されている範囲では別の仕組みだ。
それでも残る論点は、Meta公式発表が一貫して説明していないことにある。なぜ@メンション機能は最初からオプトイン方式ではなくオプトアウト方式で設計されたのか、その意思決定プロセスについてMetaは何も語っていない。今回はすばやい対応で事なきを得たが、次に投入する生成AI機能で同じ設計判断が採られない保証はどこにもない。
同意なき画像生成という問題を業界全体で見ると、Metaの対応速度は際立つ。xAIのチャットボットGrokは2025年以降、同意のない実在人物の水着姿や性的示唆を伴う画像を生成し続けており、9日間で440万枚、うち180万枚が女性の性的画像だったとする報道がある。Center for Countering Digital Hateの推計では、11日間で子供の性的画像が2万3000枚生成されたともされており、複数の集団訴訟に発展している。Muse Imageが3日で問題化・撤去されたのに対し、Grokは同種の問題を抱えたまま稼働を続けており、対応の遅速だけを見ればMetaの動きは早い。両社に共通するのは、オプトイン設計を製品公開前の必須条件とせず、問題が可視化されてから事後的に手当てする構造そのものだ。
規制強化の目前と、日本の読者にとっての違い
EU AI Act第50条の透明性義務は現行法上2026年8月2日に適用される予定で、提供者にはAI生成・改変コンテンツへの機械可読なマーキングと検出可能性の確保を、ディープフェイクの利用者には人向けの生成・改変事実の開示を求める。違反時の制裁金は最大1500万ユーロまたは全世界売上高の3%に上るとGT Lawの分析は指摘しているが、一部義務を12月2日に延期する政治合意済みのAI Omnibus案が正式採択を待っている状態でもあり、実際の適用時期は流動的だ。それでも、Muse Imageのような機能がこの規制の射程に入りうる点は変わらない。米国では非合意の性的画像・ディープフェイクの公開や公開の脅迫を連邦犯罪とする「TAKE IT DOWN Act」が2025年5月19日に成立済みで、モンタナ州では氏名や声、肖像への財産権を認め、商業利用目的での無許可デジタル複製など一定の行為について実損害と得た利益相当額の賠償を認めるHB513が2026年1月1日に施行された。一方、同種の権利を連邦レベルで包括的に定める「NO FAKES Act」は2025年に上院へ再提出された法案(S.1367)の段階にあり、2026年7月時点で成立には至っていない。
EU域内でMuse Imageのような機能を提供する事業者は、8月2日以降、生成物への透明性表示を怠れば単発の批判では済まなくなる。同条が求めるのはマーキングや生成・改変事実の開示であり、同意の有無を問うものではない。Metaが機能撤去の際に見せた即応の速さが、法的な強制力を伴う場面でも再現されるのかが次の検証点になる。
日本の読者にとって、この一件は法的な保護の枠組みの違いを考える材料になる。Muse Imageの中核機能自体はMeta AIアプリを通じて日本でも利用できるが、Instagramストーリーズ内のAIエフェクトとWhatsApp DM内での画像生成は日本では提供されていないとされる。日本には米国のTAKE IT DOWN ActやモンタナHB513のように肖像を財産権として明確に位置づけ、無断利用時の賠償枠組みを定めた専用法はない。氏名・肖像の財産的価値を保護するピンク・レディー事件などのパブリシティ権に加え、みだりに撮影・利用されない人格権由来の肖像権やプライバシー権も民法上の保護として存在し、顔画像の扱いには個人情報保護法と個人情報保護委員会による監督も及びうる。同じ問題が日本で起きた場合、米国のような法定賠償額の定めはないものの、対抗手段は民事訴訟だけに限られるわけではない。
Metaが今回撤去したのは@メンション機能そのものだが、なぜオプトアウト方式を選んだのかという根本の判断プロセスは説明されないままだ。EU AI Act第50条の透明性義務の適用開始を8月2日に控え、規制当局がラベル表示義務の運用を始めれば、Metaは次にどの機能で同じ設計判断を下すのか説明を迫られる場面が増えるはずだ。Advantage+ creativeを含め、次に投入される生成AI機能でこのパターンが繰り返されるかどうかが、今回の一件の実質的な決着点になる。
