フランスのEmmanuel Macron大統領が2026年11月9日に公表したAI安全宣言「Paris Call for AI Safety and Security」に、16か国、OpenAIやAnthropicなど10社、7つの市民社会団体が名を連ねた。フランス大統領府（Élysée）が公開した署名リストに基づく数字だ。宣言では、AI開発企業がモデルの訓練中や社内利用を含め、必要に応じて運用を制限・停止できるフェイルセーフ機構を実装すると約束している。ただし、その対象は開発者自身が管理する運用に限られ、政府や第三者による停止権限は規定されていない。幅広い国や企業が安全対策の方向性で一致した一方、実効性をどう確保するかは今後の制度整備に委ねられている。
16か国・10社が署名したAI安全宣言の内容
フランス大統領府が公開した署名リストには、オーストリア、バーレーン、カナダ、フィンランド、フランス、アイルランド、ケニア、オランダ、ノルウェー、ポルトガルなど16か国の政府が掲載されている。企業ではAnthropic、OpenAI、Microsoft、Mistral AI、Hugging Face、Cohere、Sakana AIなど10社が参加した。一方、ドイツ、米国、英国、日本の政府は署名リストに含まれていない。リストには新たな賛同を受け付けており、随時更新する旨が記されているため、これらの数字は2026年11月11日時点のものとなる。
署名国の数は、一部の報道と異なっている。Le MondeとThe Decoderはいずれも8か国が参加したと伝えているが、フランス大統領府の公開リストには16か国が掲載されている。公表後に署名国が増えたのか、集計対象に違いがあるのかは確認できない。本記事では、11月11日時点の公式リストに基づいて16か国と表記する。
宣言は、AIの安全性とセキュリティを高めるため、3つの柱を掲げている。第1は、最先端の大規模AIモデルを対象とする評価・リスク管理の共通枠組みの整備だ。機密性のない評価結果を標準形式で公開し、共有リポジトリに集約することを目指す。第2は開発者や政策担当者などがそれぞれの役割に応じて責任を負う原則の確認、第3は重大なサイバーインシデントやAIの制御喪失に関する事故の分類、情報共有、早期警戒の仕組みづくりである。宣言の前文では、広島AIプロセス、ソウルでのフロンティアAI安全コミットメント、2026年6月のG7エビアン会合など、これまでの国際的な取り組みを基盤として位置付けている。
ただし、宣言には具体的な履行期限や違反時の罰則、法的拘束力を定める規定はない。日本との関係では、国内のAI開発企業であるSakana AIが署名する一方、日本政府は参加していない点が注目される。また、日本が主導した広島AIプロセスが宣言の基盤の一つとして明記されており、既存の国際的な安全対策の議論を引き継ぐ内容となっている。
AIの停止機構は義務付けられるのか
宣言の実効性を判断するうえで重要なのは、開発者向けに設けられた5つの条項だ。第1項では、モデルの能力、限界、既知のリスクに関する情報を開示すると明確に約束している。第2項は独立した第三者評価について定めているが、資格を持つ外部評価者による評価を支援するのは「適切で、リスクに比例する場合」に限られ、既存の慣行との整合性も条件となる。第3項では、訓練中や社内利用を含むモデルの運用について、制限、一時停止、完全停止を可能にするフェイルセーフ機構の実装を約束している。ただし、対象は「開発者の管理下にあるモデル運用」と明記されている。
残る2項目は、具体的な実施義務よりも原則の確認に重点を置いている。第4項では安全対策が除去・回避されるリスクを認識しつつ、オープンウェイトモデルの開発がもたらす利点を維持する方針を示した。第5項では内部ガバナンスの重要性を認め、責任の所在が明確な統治体制の整備に取り組むとしている。つまり、5項目のうち条件や対象範囲の限定を伴わずに実行を約束しているのは、モデルの能力・限界・既知のリスクに関する情報開示である。停止機構には管理対象の制約があり、独立評価にも実施条件が付いている。
停止機構の適用範囲を理解するには、AIモデルの提供形態による違いが重要になる。開発企業が自社のサーバーでモデルを動かし、API経由で利用者にサービスを提供する場合、企業は運用を一時停止したり、完全に停止したりできる。一方、モデルの重みを公開するオープンウェイト方式では、第三者が独自の環境で複製を動かせるため、公開後の運用は必ずしも元の開発者の管理下にない。宣言も安全対策が取り除かれたり回避されたりするリスクを認めているが、オープンウェイト開発の利点は維持するとしている。このため、フェイルセーフ機構の実装を約束しても、公開済みモデルの複製まで停止できることを意味するわけではない。
政策担当者向けの条項にも、外部から停止を発動する具体的な権限は定められていない。大規模な損害が発生した場合の責任については、法的枠組みの中で明確にする必要性を認識するとしている。一方、内部通報者が報復を恐れずに懸念を報告できる秘匿性の高い窓口については、設置を明確に約束している。したがって、現在の宣言から読み取れるのは、開発者に停止機構の実装を求める方針であり、政府や独立機関がその機構を直接発動できる制度ではない。
規制当局による監督へ発展する可能性
もっとも、停止機構が開発者の自主的な管理にとどまるとは限らない。宣言の第2の柱には、すべての主体が、各国の所管当局によって定められるか認定された厳格な安全基準を、当局の監督と独立した第三者の評価の下で遵守すると約束する条項がある。署名国の規制当局が今後、停止機構の実装を安全基準に組み込めば、企業による自主的な約束から、外部の監督を受ける要件へと発展する可能性がある。宣言には、そうした制度整備につながる余地が残されている。
しかし、現時点では停止機構を必須要件とする具体的な安全基準は示されていない。評価の共通枠組みを支える技術標準についても将来的な整備を見込む表現にとどまり、事故対応の協力メカニズムは有用性を検討する段階にある。各国の規制当局がどのような権限を持ち、基準に従わない開発者に対して何を要求できるのかも明確ではない。そのため、宣言をもってAIモデルに対する外部からの停止命令や強制停止の制度が確立したと評価することはできない。
今後の実効性を判断するうえでは、2つの動きが重要になる。第1は、署名国の規制当局が停止機構を認定安全基準に組み込み、実装状況を確認したうえで、不備があれば是正を要求できる仕組みを整えるかどうかだ。第2は、宣言が掲げる公開リポジトリに、停止機構の動作試験を含む評価結果が標準形式で登録され、第三者が検証できるようになるかどうかである。前者は規制上の実効性、後者は実装状況の透明性を判断する材料となる。ただし、評価結果が公開されても、それだけで規制当局に停止権限が与えられるわけではない。
宣言には具体的な実施期限がないため、こうした仕組みがいつ整備されるかは不明だ。今後は署名国の安全基準や監督制度の具体化に加え、更新される署名リストに日本やドイツなどが加わるかどうかも注目される。16か国と10社が共通の安全原則に賛同したことは国際協調の一歩だが、開発者が停止機構を備えることと、外部機関がその実装を検証・監督し、必要に応じて停止を強制できることは別の問題である。 今回の宣言が実効性のある国際的な安全対策へ発展するかは、各国の制度整備と検証可能な評価体制の構築にかかっている。
