Appleは2026年10月16日、App Storeの審査規則を更新し、AIで作られたものを含む、本人の同意のない性的画像への対処を開発者に明確に求めた。実在する人物を性的な姿に加工する「脱衣」アプリは従来から禁止されているが、今回の改定では画像の防止・削除に加え、審査後に有害な機能を有効にする手口も改めて対象として示している。違反への対応は、アプリの削除から開発者の排除に及ぶ。ただし、生成される内容の管理と、審査を偽る行為では、規則が問う責任も異なる。
三つの条項は対象と措置が違う
今回の改定は、生成・投稿される内容、審査後の機能変更、代替配信の可否という三つの判断を分けている。Appleが発表した安全対策に関する変更を、10月16日改定の審査規則の各条項に照らして分類すると、次のようになる。
| 条項 | 対象と開発者に求める対応 | 規定上の措置 |
|---|---|---|
| 1.2：ユーザー生成コンテンツ | AI生成を含む同意のない性的画像などの有害な内容。防止・削除のための対策を備え、指摘された違反を是正する | 対応に応じてアプリを削除する可能性。重大・反復違反では即時削除やDeveloper Programからの排除 |
| 2.5.19：隠し機能 | 審査で示さなかった機能や、承認後に現れる有害機能。アプリが何をするかを審査側とユーザーに明らかにする | 隠した機能があるアプリの削除や開発者の排除。バイナリ内で機能を隠す行為はアカウント終了の根拠にもなる |
| 第5節：重大な搾取行為 | 人身売買や児童搾取を助けるアプリ | 当局への通知、App Storeからの削除、代替配信の遮断 |
表はAppleの発表にある三つの変更を、対象・求める対応・措置で整理したものだ。個別アプリの削除実績を示すものではなく、違反の内容や是正状況に応じた規則上の扱いを表している。
とりわけ、代替配信の遮断が明記されているのは、人身売買や児童搾取に関する第5節である。この説明を、そのまま脱衣アプリ全般への一律措置と読むことはできない。AIによる性的画像への対処を求める1.2と、深刻な搾取を助けるアプリの流通を止める第5節は、対象を確かめて読み分ける必要がある。
生成AIにもフィルターと通報対応を要求
改定後の1.2は、ユーザーがコンテンツを生成したり投稿・共有したりできるアプリに適用され、AIコンテンツ作成アプリも明示している。Appleの発表は、同意のない性的画像について、AIで生成された画像も含めて「積極的に防止し、削除する」ことを求めた。生成AIを使っているという理由で、内容の管理責任を免れる構成にはなっていない。
規則が挙げる対策は四つある。有害な内容の投稿を防ぐフィルターと、不適切な内容を通報して適時に対応を受けられる仕組みが必要だ。さらに、悪用するユーザーをブロックできること、利用者が容易に連絡できる窓口を公開することも要求される。画像を作る機能の提供と、問題が起きた後に対応する窓口の運用は、同じアプリの責任として扱われる。
違反を指摘された場合の対応にも条件がある。1.2によると、Appleは問題の内容の削除と、規則を守るための改善計画を求める。開発者の回答によっては、改善を示せるまでアプリをApp Storeから削除する可能性があり、重大な違反や繰り返しの違反は、アプリと開発者を即時に排除する根拠になるという。
ここで開発者に求められるのは、規約に禁止事項を書くことに加え、実際に防止や通報対応を行える仕組みを持つことだ。一方、今回の発表は、どの検出技術を採用すべきか、画像に写る本人の同意をどう確かめるかといった実装方法までは指定していない。要求する結果を明確にした規則と、その結果を達成できる技術の有無は別の問題として残る。
審査を通った後の機能すり替えも対象
2.5.19が扱うのは、審査時に目的を偽り、承認後に脱衣などの有害な機能を明らかにする手口だ。Appleはこれを、審査後の機能すり替えとして説明している。審査に提出した版にはなかった機能を後から加える例を挙げ、該当するアプリはApp StoreとApple Developer Programから排除される対象になるとした。
ただし、隠し機能の禁止そのものが今回始まったわけではない。改定項目の告知は、従来の2.3.1で扱っていた方針を、新しい2.5.19で明確化したと説明する。通常の機能更新を一律に禁止する話ではなく、審査に対して機能を隠したり、何をするアプリなのか偽ったりする行為が問われる。
条文には、アプリのバイナリ、つまり配布するプログラムの中で、未記載の機能を隠そうとする行為も書き込まれている。例示されたのは、プログラムを読み取りにくくする「コードの難読化」などだ。こうした方法で機能を隠すことは、アプリの削除と開発者アカウント終了の根拠になる。
この規定と1.2を合わせると、生成結果を管理する体制と、申請した機能を正しく説明する体制の両方が必要だと分かる。問題画像を削除する窓口を設けても、審査時に有害機能を隠す行為への対処にはならない。逆に、申請内容を正確にしても、配信後の内容管理や通報対応の責任は続く。審査を通過した瞬間だけを切り取って、安全対策を評価することはできないのである。
件数の公表と改定の効果は分けて読む
Appleは同じ発表で、2025年には、安全上の問題がある15万件超のアプリが顧客に届くのを防ぎ、不正や悪用に関与した19万3000件超の開発者アカウントを終了したと説明した。前者の単位はアプリ、後者はアカウントであり、合算して削除したアプリ数とは扱えない。いずれも同社が示した安全対策全般の件数で、脱衣アプリだけを数えた統計ではない点にも注意が必要だ。
この数字から、今回の改定で同意のない性的画像がどれだけ減るかは判断できない。発表は、改定に伴って削除した脱衣アプリの数や、対策による検出精度も示していないためだ。規則の明文化と、被害を防げたという結果の間には、実際の運用を確かめる段階が残されている。
開発者には、有害な生成結果への対処と、審査で示す機能の管理を継続して行う責任がある。Appleの対応を評価するうえでは、違反の指摘後にどのアプリが是正・削除され、機能のすり替えにどのような措置が取られるかが判断材料となる。
