米アイオワ州など少なくとも8州が2026年10月14日、ChatGPTの安全性について利用者に誤解を与えたとして、OpenAIを各州の裁判所に個別に提訴した。未成年者への危険性を十分に説明せず、安全で信頼できるサービスとして普及を進めたというのが州側の主張だ。OpenAIは年齢に応じた保護機能をすでに導入していると説明しているが、アイオワ州は住民データの削除や高度AIモデルの追加試験の差し止めまで求めている。今回の訴訟では、ChatGPTの安全性に関する説明だけでなく、製品設計やAI開発の進め方そのものが争点となっている。

AD

各州が問題視する安全性の説明と対話の設計

アイオワ州司法長官の発表によると、同州とともに記者会見に参加したのはカンザス州、ネブラスカ州、ウェストバージニア州の司法長官だ。さらに、アーカンソー州、アリゾナ州、アイダホ州、モンタナ州も、それぞれの州裁判所でOpenAIを提訴した。共和党と民主党の双方が関わる超党派の動きだが、8州が共同で一つの訴訟を起こしたわけではない。各州がそれぞれの法律に基づいて提訴しており、主張する違反行為や求める救済措置には違いがある。

アイオワ州のBrenna Bird司法長官は、今回の訴訟について次のように述べた。

「この訴訟は、子どもたちを守り、州法に基づいてOpenAIの責任を問うためのものだ」

州側が問題視しているのは、ChatGPTの安全性に関する説明と、利用者が会話を続けたくなるような製品設計の関係だ。アリゾナ州司法長官の発表によると、同州は、ChatGPTが利用者の発言に過度に同調し、人間のような共感を示すことで、未成年者を含む利用者の滞在時間を延ばすよう設計されていると主張している。さらに、こうした設計上の特徴や危険性を十分に説明せず、安全で若者にも適したツールであるかのような印象を与えたとして、州の消費者詐欺防止法に違反すると訴えている。

例えば、利用者が誤った考えを示した際にAIが反論せず同調する傾向は、会話を心地よく感じさせる一方、危険な思い込みを強める可能性がある。アリゾナ州は、妄想的な考えの助長や危険な医療助言に加え、子どもが個人情報をAIだけに打ち明け、家族などには共有しないよう促される場合があるとも主張した。ただし、これらは訴状に記載された州側の主張であり、個々の被害とChatGPTの設計との因果関係が裁判所によって認定されたわけではない。

つまり、州側はChatGPTが危険な回答を生成する可能性だけでなく、そうしたリスクが利用者に十分伝えられていたかを問題にしている。危険性を正しく知っていれば、保護者や利用者は異なる判断をしたかもしれないというのが州側の立場だ。そのため、AIの応答や対話の設計に加え、利用するかどうかを判断するために必要な情報が適切に提供されていたかも、重要な争点となる。

求める措置は安全性の表示からデータ削除、AI試験の停止まで

アイオワ州が求めている措置は、安全性に関する表示の是正、住民データの取り扱いの変更、高度AIモデルの試験停止という三つの領域に及ぶ。同州が提出した訴状の86〜87頁に記載された請求D・H・Iを、対象ごとに整理すると次のようになる。いずれも州側が裁判所に求めている措置であり、現時点で実施を命じられたものではない。

変更を求める領域 アイオワ州の具体的な請求 条件・範囲
安全性の表示 ChatGPTの性質について公衆に誤解を与える表示などの差し止め 州の消費者詐欺防止法に違反する行為が対象
住民データ 判決前に取得した住民データの削除・破棄と、一定の条件を満たさない情報収集・販売の差し止め 収集・販売には年齢確認、明瞭な通知、十分な説明に基づく明示的な同意を要求
高度AIの試験 高度AIモデルの追加試験の差し止め 公衆を危険にさらさないための安全策を実装し、第三者の監視者が検証するまで

安全性に関する表示の是正であれば、利用者にどのような情報を伝えるかが主な対象となる。一方、データ削除の請求はOpenAIが保有する利用者情報の管理に踏み込み、試験停止の請求は研究開発段階の安全対策にまで及んでいる。特に高度AIモデルの試験については、OpenAI自身が安全性を確認するだけでは不十分とし、第三者による検証を再開の条件として求めている点が特徴だ。

金銭面では、アイオワ州は消費者詐欺防止法の違反1件につき最大4万ドルの民事制裁金を求めている。60歳以上の人に対する違反については、1件につき最大5,000ドルの追加制裁金も請求した。さらに、違反期間中に商品やサービスを購入した利用者への返金や、違法行為によって得た収入などの返還も求めている。なお、4万ドルという金額は違反1件当たりの上限であり、訴訟全体の請求総額ではない。

アーカンソー州司法長官の発表では、さらに踏み込んだ要求も示されている。同州は未成年者のデータ収集に関する州法違反などを主張し、安全対策が整うまで高度AIモデルの試験だけでなく、再帰的な自己改善が可能なモデルの開発も差し止めるよう求めた。再帰的な自己改善とは、AIが自身の能力を繰り返し改良していく仕組みを指し、ChatGPTの画面に警告を追加するだけでは対応できない開発上の問題に関わる。ただし、こうした開発停止の要求は各州で異なり、すべての州が同じ範囲の差し止めを求めているわけではない。

AD

OpenAIが導入した保護機能と、州側が指摘する問題

OpenAIの広報担当者Drew Pusateri氏は、Bloomberg Lawの取材に対し、同社は年齢に応じた保護機能をすでに導入しており、追加の安全対策についても開発を続けていると説明した。また、特定の企業だけを対象とするのではなく、AI業界全体に適用できる現実的な政策を各州と協力して進めたいとの考えも示している。

実際、OpenAIは今回の提訴以前から未成年者向けの保護機能を公表していた。2026年1月20日の発表では、アカウントの利用期間や利用時間帯、利用パターン、申告された年齢などを組み合わせ、利用者が18歳未満である可能性を推定する仕組みを説明している。未成年者と誤判定された成人には、本人確認サービスのPersonaを通じてセルフィーによる年齢確認を行う手段も用意した。

この年齢推定機能は、未成年者である可能性が高い利用者を特定し、適切な保護機能を適用するためのものだ。利用開始時にすべての利用者の年齢を一律に確認する仕組みとは、目的も運用方法も異なる。そのため、年齢推定機能が導入されているという事実だけでは、アイオワ州が求める年齢確認やデータ収集への同意に関する条件を満たしているかは判断できない。

さらに、OpenAIは8月18日に発表した「ChatGPT for Teens」で、13〜17歳と申告した利用者や、18歳未満と推定された利用者に対して、保護機能を自動的に適用すると説明した。危険なコンテンツへの接触やAIへの感情的依存を抑える方針を掲げ、会話相手がAIであることを知らせる案内や、休憩を促す表示なども導入している。また、保護者が子どものアカウントと連携すれば、ChatGPTを利用できない時間帯を設定したり、特定のリスクが高い状況で通知を受け取ったりできるという。

一方、アイオワ州の訴状は、OpenAIが安全性に関わる設計を変更してきたことを認めたうえで、それでも対策が不十分だと主張している。つまり、両者の争いは保護機能が存在するかどうかだけではない。実際にどの利用者へ適用され、危険な会話をどこまで防げるのか、さらに保護機能の限界が利用者に適切に説明されているかが問われている。OpenAIが機能の導入を発表したことは、その取り組みを確認する根拠にはなるものの、実際の効果が独立した検証によって証明されたことを意味するわけではない。

今後の焦点は保護策の実効性とAI試験停止の判断

今回の訴訟で特に注目されるのは、アイオワ州が求めている高度AIモデルの追加試験の差し止めだ。同州は、安全対策の実装と第三者による検証を試験再開の条件としており、裁判所がこれを認めるかどうかによってOpenAIの研究開発への影響は大きく変わる。仮に請求の一部が認められた場合でも、どのような試験が対象となり、何をもって安全対策が十分だと判断するのかが重要になる。利用者との会話に適用する保護機能と、研究中のモデルを外部システムから隔離する安全対策は、異なる観点から検証する必要がある。

保護者や利用者にとっても、年齢に応じた保護機能が導入されているという説明だけでは、十分な判断材料とはいえない。どのような条件で子どもが保護対象として判定されるのか、保護者とのアカウント連携が必要な機能は何か、どのような場合に通知が届くのかを把握することが重要だ。州側が求める説明の是正と、OpenAIが主張する保護機能の実効性は、こうした具体的な利用場面で評価されることになる。

現時点では、各州の主張や請求が裁判所に認められたわけではなく、その判断は今後の審理に委ねられている。安全性に関する説明と実際の保護機能の間にどの程度の隔たりがあるのか、また、その是正を製品の運用だけでなく研究開発段階にまで広げる必要があるのかが、主要な争点となる。今回の訴訟は、AIサービスの安全性を誰が、どのような基準で検証し、その結果を利用者にどう伝えるべきかという問題にも関わっている。