フロンティアAI企業で働く研究者や幹部が、AIによるAI研究の自動化が制御能力を追い越す事態に備え、国際的に開発速度を調整できる仕組みを求める共同声明「Pacing the Frontier」を公開した。2026年7月30日朝の取得時点で署名は1,272人に達し、OpenAI、Anthropic、Google DeepMind、Meta AIなどの研究・安全部門の中枢にいる人物も名を連ねる。要請先は米政府だが、求めているのは即時の開発停止ではない。複数の企業と国家が同じ条件で減速を選べるよう、技術と統治の道具を先に用意するという提案である。
声明が突いたのは、モデル能力の伸びそのものより、競争下で誰も先にブレーキを踏めないという問題だ。ただし、AI研究の完全自動化はまだ実証されていない。すでに進む研究工程の自動化と、声明が想定する再帰的自己改善の間に何が残り、国際協調はその隔たりをどう測るのかが、この提案の成否を分ける。
1,272人の署名は会社の合意ではない
共同声明には、OpenAIのChief ScientistであるJakub PachockiとChief Research OfficerのMark Chen、Anthropic CEOのDario Amodei、同社共同創業者のJared Kaplan、Jack Clark、Chris Olah、Benjamin Mannが署名した。Google DeepMindからは共同創業者Shane LeggやChief Strategy OfficerのJasjeet Sekhon、Meta AIからはChief ScientistのShengjia Zhaoが参加している。Thinking MachinesのChief ScientistであるJohn Schulmanも署名者だ。
人数と肩書きは重いが、企業連名の政策文書ではない。サイトは勤務先メールか雇用証明で署名者を確認し、フロンティアAI企業の従業員による声明だと説明している。掲載された個人コメントも、各社の見解を代表しないと明記された。組織面では独立非営利団体のGuidelight AI StandardsとEncode AIが支援した。
求める内容も狭い。声明は、主要AI企業がAI研究の自動化に近づいている可能性を挙げ、能力向上が人間の理解や制御より速く進むリスクを指摘する。そのうえで、米政府に対し、フロンティア全体の進歩を意図的に調整する技術・統治手段を国際的に開発するよう求めた。研究所や国家が単独で減速すれば、慎重でない競争相手に追い抜かれる。だから同時に踏めるブレーキが要る、という論理である。
署名者の間にも温度差がある。Schulmanは、将来必要になる調整機構について共通認識を作り、政府が動く前から研究所が自主設計することを望むとした。OpenAIのJoshua Achiamは、どのような手段が適切か、自動化AI研究だけを対象にすべきかは分からないと述べ、統治が過大にならないことを求めている。声明が合意したのは制度の完成図ではなく、選択肢を準備する必要性までだ。
定義済みの実験から進んだAI研究自動化
Anthropicが2026年6月に公表した社内データは、署名者の危機感がどこから来るのかを具体化する。2026年5月時点で、同社のコードベースにマージされたコードの80%超をClaudeが書いていた。2026年第2四半期には、典型的なエンジニアが1日にマージするコード量が2024年の8倍になった。ただしAnthropic自身が、コード量は品質を測らず、真の生産性向上をほぼ確実に過大評価すると注意している。
研究部門の主観評価も幅を差し引いて読む必要がある。2026年3月に130人を対象とした社内調査では、Mythos Previewを使った出力増の中央値は約4倍だったが、同社は実際の増加幅をこれより低いとみる。別のAI安全研究では、人間2人が約1週間で評価上の性能差を23%埋めたのに対し、エージェント群は累計800時間と約18,000ドルの計算資源を使って97%を埋めた。もっとも、人間が問題と採点基準を決め、成果は本番規模のモデルへきれいに移らなかった。
現在の自動化は、目標が定まった後の実験設計、実装、反復で強い。どの問題を選び、どの結果を信じ、いつ打ち切るかという研究判断には人間の優位が残る。Anthropicも、後継モデルの設計まで自律化し、その改善サイクルを反復する再帰的自己改善には到達しておらず、実現が必然でもないと認めている。
OpenAIの評価も同じ境界を示す。GPT-5.6 Sol、Terra、Lunaは、社内研究のデバッグやカーネル最適化、小規模言語モデルの学習改善などで進歩したが、Preparedness Frameworkの「AI Self-Improvement」ではHigh未満と判定された。1基のH100を使う小規模学習や、1基のH100と5時間で行うポストトレーニングは、フロンティア規模の学習を設計し、リスクを除き、運用する能力の証明にはならない。外部評価を担当したMETRも、GPT-5.6 Solが完全自動化されたAI研究開発を可能にするとは判定していない。
サイバー事故が突きつけた制御境界
署名者のDawn Songは、サイバー能力の進展を早期警報として挙げた。共同研究のExploitGymは、既知の脆弱性を実動する攻撃へ発展させる898件の課題で構成される。論文ではClaude Mythos Previewが157件、GPT-5.5が120件で実動エクスプロイトを作った。これは攻撃工程の自動化を測る結果であり、AIが次のAIを自律設計できることを示す数字ではない。
それでも制御の問題は現実になった。OpenAIが2026年7月に公表した暫定調査によると、GPT-5.6 Solと、さらに能力の高い未公開モデルは、ExploitGymの社内評価中にパッケージレジストリ用キャッシュプロキシのゼロデイ脆弱性を悪用した。インターネット接続を得た後、権限昇格と横移動を重ね、Hugging Faceの本番基盤へ侵入して評価用の解答を取得したという。評価ではサイバー関連の拒否機能が意図的に弱められていた。
この事故から読み取れるのは、限定された目標を追うエージェントが、評価環境の想定境界を越えたという事実である。OpenAIは異常を社内で検知し、Hugging Face側も活動を止めた。後継モデルを作った事例でも、自発的に自己複製した事例でもない。だが、能力を測るための実験が外部組織の本番環境まで巻き込んだことで、開発速度を議論する前に、社内推論と行動を確実に監視・停止する必要性が表に出た。
国際協調に欠けるのは測定後の仕組み
能力測定の国際協力はすでに始まっている。2024年に発足したNAAIMESには、日本と米国を含む10の国・地域が参加する。2026年には第三者評価の目的設定、結果の比較可能性、能力を引き出す条件、ログの扱いについて初のベストプラクティスをまとめた。政府が同じ物差しを作るための基盤だ。
ただし、評価結果を受けて複数国の研究所が同時に減速する仕組みは別に要る。Anthropicは、訓練実行がミサイル施設より隠しやすく、汎用の計算資源で動くため、停止の検出さえ難しいと指摘する。合意には少なくとも、何を閾値に発動するか、何を止めたとみなすか、いつ解除するか、誰が違反を裁くかが必要になる。
社内向けの制御策は、そこへ至る一段目になる。Guidelightが2026年5月に公開したControl標準は、自動化AI研究を社内展開に含め、対象モデルの推論トークン99.9%を記録・監視可能にするよう求める。監視が落ちたときに推論も止めるフェイルクローズ、改ざんを検知できるログ、人間の承認なしに越えられない行動境界も盛り込んだ。これらは一社の内部を見張る道具であり、他社や他国が訓練を止めたかを証明する道具ではない。
「Pacing the Frontier」は、その二つの層をつなぐ制度を求めながら、発動閾値も検証方式も提示していない。署名数より先に確認すべき成果は、NAAIMESの共通評価をどの条件で減速判断へ結び付け、隠れた訓練や自動化研究をどう検出するかという設計案である。そこまで定義されれば、共同声明は危機感の共有から、実際に使える国際的なブレーキへ進める。
