OpenAIが、競合企業と足並みをそろえて最先端AIの開発を減速させることが合法かどうか、米議会の議員に指針を求めていたと、WIREDが2026年9月10日に報じた。同社に近い関係者の話に基づく報道で、業界全体の減速が決まったわけではない。ただ、同社は公式にも、開発を遅らせたり止めたりする共通基準を求め始めている。安全性を確かめる時間を企業間で確保するには、競争を制限する合意との違いをどう示すのか。議会に提出された法案には、そのための具体的な条件が書き込まれている。
減速論を押し出した監視の限界
OpenAIのChief ScientistであるJakub Pachocki氏は9月6日、公式ブログ「An Alien Mind」で、安全研究を進めながら、必要に応じて将来の開発を共同で減速させる考えを示した。AIを人間の意図や価値観に沿わせるアライメントと、その行動を監視する技術について、どの研究機関も最大速度での能力拡大を責任を持って長く続けられるほどには解決できていない、というのが同氏の認識である。
背景には、能力を高めるほど、その能力を安全に使えるか確かめる作業も難しくなるという問題がある。Pachocki氏は、モデルが言語化した思考過程を監視する手法について、自社の評価では頼れる度合いが徐々に下がっていると述べた。これは同氏とOpenAIの評価であり、業界全体の安全性を独立に測定した結果ではない。それでも、開発の速さを安全確認の確かさに合わせるべきだという主張には、技術上の理由がある。
9月9日には、OpenAIのChief Global Affairs Officer、Chris Lehane氏が、能力に応じた義務的な連邦規制を求める方針を公表した。他の研究機関と業界標準を作り、いつ、どのように開発を減速・停止させるかについて、国際的に整合する基準も追求するとしている。研究責任者の問題提起に続き、政策部門も制度化を求めた形だ。
同じ文書は、AIが自律的に次世代AIを生み、改良を繰り返す「完全自律の再帰的自己改善」は、現時点では起きていないと明記する。研究の一部がAIによって速くなることと、開発全体が人間の手を離れることは違う。今回の減速論は、その違いを飛び越えて到達を宣言したものではない。
Bloombergも9月11日付の報道で、Sam Altman CEOが今週の全社会議において、他のAI研究機関と開発ペースを調整する可能性を話したと伝えた。一部は参加しない可能性にも言及したという。具体的な参加企業や期間を伴う共同減速の合意は、公表されていない。
法案が認めようとしている協調と、その条件
米連邦取引委員会（FTC）は、競合企業の協力が効率を高める場合もある一方、各社が独立して判断しなくなったり、共同で市場支配力を行使できるようになったりすると、反トラスト法上のリスクが生じると説明している。価格協定など明白な違反を除けば、協力の目的や効果を事実に即して検討する必要がある。安全研究の協力を一律に違法とする説明は正確ではない。
しかし、各社が「同時に開発を遅らせる」と約束すれば、協力は情報交換から、何を開発し、いつ提供するかという競争上の判断へ踏み込む。そこで、一定のAIリスクへの対応を反トラスト法違反としない例外を設けようとしているのが、「Collaboration on Adversarial Threats and Security Risks Act」である。
Adam Schiff上院議員とJim Banks上院議員らは7月23日、超党派で法案を発表した。下院側にも対応する提案があり、上院提出版の法案番号はS.5105だ。9月12日時点でSchiff氏の公式サイトが示す最新の手続は司法委員会への付託で、成立した法律ではない。
発表では、外国勢力によるAIモデルの窃取や、出力を集めて能力を再現する蒸留攻撃への共同防御が前面に出ている。ただし、条文が対象とするリスクはもっと広い。兵器の開発を大きく助ける行為や、重要インフラへの重大な影響も含む。人間がAIを監視・制御・停止する能力を大幅に損なうリスクも対象だ。自律的な能力改善についても、こうした帰結を招く実質的なリスクがある場合を含めている。
つまり、能力が向上したという理由だけで、あらゆる共同制限を保護する設計ではない。法案が定義する危険との関係を示す必要がある。
| 行為・場面 | 上院提出版が置く条件 | 保護の限界 |
|---|---|---|
| リスクに関する情報や支援の共有 | 善意で、専ら対象の安全保障リスクへの対応を目的とする | 受領者には目的に沿った利用と、他目的への利用を抑える合理的な内部統制が必要 |
| AIの開発や提供などの共同制限 | 専ら対象リスクを減らすために行い、実行前に特定のリスクと制限範囲を書面で通知する | 対象には公開や利用のほか、開発・訓練から試験・評価まで含まれるが、通知は事前承認を意味しない |
| 反トラスト法上の訴訟・手続 | 免責を求める企業側が、善意と目的を証拠の優越によって立証する | 通知を出した事実だけで免責は確定しない |
| 司法長官による差止め請求 | 裁判所を通じて反トラスト法違反の行為を差し止める仕組みを残す | 企業が立証責任を満たさない場合などは、法案による差止めからの免責がない |
出典：S.5105上院提出版の第3条・第4条。成立前の提案内容。
情報共有と共同減速は別の条項であり、共同制限には特定リスクと制限範囲の事前通知が加わる。企業側の立証と司法長官の差止め権限が残る。共同で延期・制限する場合には、司法省反トラスト局を担当する司法次官補へ、実施前の通知が加わる。条文には、政府の許可を得ることや、その許可を待つ期間は書かれていない。企業が対象リスクと措置を具体化し、後の審査に耐えられるようにする制度として読むべきだろう。
通知を出しても免責が確定するわけではない
法案が繰り返し使う「専らその目的で」という条件は、他の目的で行う部分が実質的でない程度に収まることを意味する。安全性向上が目的の一つに含まれていれば十分、という緩い条件ではない。一方で、安全のための措置から企業に利益が生じることまで一切禁じる、とも書かれていない。
例えば、危険な能力を備えたモデルについて検証の時間を確保する合意と、競争相手の新製品投入を抑えて市場での優位を守る合意では、目的の評価が変わる。安全を掲げた名称だけでは、その違いは判断できない。法案の下では、免責を求める企業が自ら善意と目的を立証する必要があり、実際の合意内容が問われることになる。
情報共有についても、競争法から無条件に切り離されるわけではない。第3条は情報共有の例外規定について、価格協定や市場分割を認めるものではないと明示する。価格・費用情報の交換も、その例外で認められる行為には入らない。この但し書きは、条文上、情報共有を扱う規定に対応している。共同減速の規定とは区別して読む必要がある。
さらに第4条には、安全目的があっても差止めを免れない場合が書かれている。企業が必要な立証を果たせない場合に加え、司法長官が、その行為によって対象リスクが全体として増える合理的な可能性を示した場合だ。「安全のために遅らせた」という目的と、「結果として安全になりそうか」という評価を分けている。
これは共同減速の議論に直接関わる。参加企業の危険を下げても、全体の危険を高める措置なら、保護されるとは限らない。どの企業が参加するか、制限中に何の安全対策を進めるかによって、同じ「減速」でも効果は変わりうる。法案は、減速という行為そのものに安全のお墨付きを与えてはいない。
合法な協調を実効的な減速へつなぐには
法案の第3条は、共同制限の通知と、その内容を明らかにする関連情報を、連邦情報公開法による公開の対象から外すとしている。提出情報の利用目的も、司法長官が差止めを求める第4条のために限定する。通知に含まれる機密性の高い情報を保護する仕組みだが、この通知だけで第三者が各社の停止状況を比較できるわけではない。
通知を政府に届けることと、他社が実際に減速したと確認することは、別の作業になる。
Anthropicは公式文書「When AI builds itself」で、他の最先端AI開発者が検証可能な形で減速・停止し、それを確認する仕組みが存在するなら、自社も応じると想定している。ただし、慎重さに欠ける開発者がその間に追いつくだけなら、世界全体の安全性を下げかねないとも述べる。これは条件付きの姿勢であり、すでに共同停止へ合意したという発表ではない。
同社が挙げる実務上の難しさは、訓練の実行を隠しやすいことだ。複数国の有力企業が同じ条件で停止し、互いに履行を確かめなければ、ひそかに開発を続けた側が優位を得る。停止を始める条件に加え、何を満たせば解除するのか、誰がその判断を下すのかも定める必要がある。
OpenAIの議会照会は、こうした協調を始める際の法的不確実性を減らそうとする動きとして位置づけられる。ただし、議員の回答や具体的な合意内容は明らかになっていない。S.5105は今回の報道より前に提出されており、OpenAIの照会との正式な関係も明らかではない。
今後の提案で確かめたいのは、何を危険と判定し、どの活動を制限するのかという対応関係である。そこに参加企業の履行を検証する方法と再開条件が伴えば、共同減速は、各社が安全性を確かめる時間を競争の中でも確保する選択肢になりうる。