OpenAIのSam Altman CEOが9月12日、社員に近いアクセス権を持つ独立評価者を受け入れる方針を表明した。AnthropicのDario Amodei CEOが打ち出したAI開発の減速案に応じたもので、Elon Musk氏とDemis Hassabis氏も同日、賛意を示した。ただし、三者が同じ監督制度の導入を約束したわけではない。原文を読み比べると、評価者を社内に迎える具体的な約束と、提案の方向性への支持には隔たりがあり、業界共通の仕組みにするための課題も残っている。
三者の賛同は、同じ約束ではない
Altman氏はXへの投稿で、最先端AIの進歩にペース配分が必要だというAmodei氏の考えに同意し、最近数週間、OpenAIでも主要な議題の一つだったと明かした。そのうえで、社員に近いアクセス権を独立評価者に与える案を評価し、OpenAIも同様に取り組むと述べた。詳細は近く共有するとしている。
これは、競合企業の提言への一般的な賛辞より踏み込んでいる。OpenAI自身が何をするかを示したからだ。一方、Musk氏の投稿は「Darioは正しい」という短い賛意だった。評価者の受け入れ方や、どこまで開発を遅らせるかには触れていない。
Hassabis氏は、論考が進むべき方向を示していると支持しつつ、詳細を詰める必要があると付け加えた。そして、最先端AIに関する業界共通の基準機関を自ら提案した理由もそこにある、と以前の構想へつないだ。
9月12日の各投稿に明記された内容を、行動の約束と留保に分けると違いがはっきりする。
| 発言者 | 当該投稿で示した立場 | 評価者受け入れの約束・留保 |
|---|---|---|
| Sam Altman氏 | 開発ペースの調整と、社員に近いアクセス権を持つ独立評価者を支持 | OpenAIも同様に取り組むと明言。詳細は後日 |
| Elon Musk氏 | Amodei氏への短い賛意 | 具体的な導入策への言及なし |
| Demis Hassabis氏 | 方向性を支持し、自らの業界基準機関案に言及 | 詳細は要検討。常駐評価者の受け入れは明言せず |
同日の投稿で評価者の受け入れまで明言したのはAltman氏であり、Musk氏とHassabis氏の投稿は同じ約束を記していない。
この比較は当該投稿の内容を並べたもので、各社がすでに実施した対策の比較ではない。Altman氏の表明も、評価者の活動開始や契約締結を知らせるものではなかった。支持が広がったことと、統一された減速ルールが成立したことは分けて読む必要がある。
社内に入る評価者と、業界に共通する基準
Amodei氏の論考「We Must Pace the Frontier」は、外部評価者が企業の内部で継続的に安全対策を確かめる仕組みを提案する。完成モデルへの試験だけでなく、訓練工程や安全上の約束が実際に守られているかまで確認する。Anthropicはこの受け入れを単独で進めると約束し、他社にも追随を求めた。
対して、Hassabis氏が7月14日に公表した構想の主眼は、企業をまたいで使う評価手順を作ることだ。米国が先導し、連邦政府の監督を受ける官民連携、あるいは自主規制組織の形で基準機関を設ける。能力評価の基準値を定め、それを満たすモデルを最先端級として扱う案である。
つまり、常駐評価者は各社の開発現場を見る。基準機関は、各社をどの試験で評価するかをそろえる。両者が連携すれば、公開前のモデル試験と、そこに至る工程の検証を結び付けられる可能性がある。Amodei氏自身も、政府と関係を持つ業界団体を通じた協議の例としてHassabis案に言及している。
Hassabis案には、任意の参加から制度化へ進む手順もある。当初は公開前の最大30日の時点で、企業がモデルを任意に提出して審査を受ける。評価手順の有効性が確認できれば、米国市場で展開する最先端モデルには合格を求める仕組みへ移行する構想だ。すでに提出義務があるわけでも、30日間の開発停止を求めているわけでもない。
対象を企業の規模や名前で決めない点も見逃せない。公開型か非公開型か、どの国で開発されたかを問わず、最先端級のモデルには適用し得る一方、その水準に達しないモデルは対象外とする。新興企業や大学が作ったという理由だけで一律に免除する案ではない。
試験自体も固定しない。当初は四半期ごとなどで見直し、古くなった評価を入れ替える。将来的には、基準機関が企業から独立して非公開の試験を作れるようにし、既知の問題だけに最適化されるのを防ぐという。危険を測る試験がモデルの進歩に置き去りにされれば、合格証だけが残りかねないためだ。
「独立」を支えるのはアクセスと公表権
Anthropicが約束した条件で注目すべきは、評価者が不利な所見を公表できることだ。論考は、リスクや事故についての重要な発見に加え、どの情報へアクセスできたか、できなかったかも、Anthropicの編集上の統制を受けずに公表する権利を契約へ盛り込むとしている。
社内の情報を見られても、会社に都合の悪い結論を外へ出せなければ、第三者による検証は限られる。逆に、情報へのアクセスが足りなければ、公表権だけあっても中身を確かめられない。Amodei案は、社内のリスク評価担当とおおむね同等の権限を与え、社員との会話でも情報を得られるようにすることで、この両方を整えようとしている。
もちろん無制限ではない。法令や契約による制約、顧客・取引先の情報保護は残る。安全上の機微情報や法律上保護される情報などは限定的に墨消しできるが、不利な所見だからという理由では隠せない。墨消しが結論に重要な影響を与えた場合は、評価者がその事実を公に指摘できるという。秘密を守る例外そのものも、外から吟味できるようにする考え方だ。
Hassabis案では、基準機関の運営を誰が担うかも問題になる。同氏は独立した技術専門家やオープンソースの代表を理事会に入れ、必要な人材と計算資源のために主に業界が資金を出す構想を示した。開発現場の知識を取り込みながら、資金を出す企業からどう独立するかが制度設計の課題となる。
参考例として挙げた米金融業規制機構（FINRA）は、企業が任意に意見を交換するだけの団体ではない。FINRA自身の説明によると、会費で運営される民間非営利組織で、米証券取引委員会（SEC）の監督下にある。連邦法に基づき会員の証券業者を監督し、規則の策定・執行や検査を行い、適切な場合には違反者を会員から排除する権限も持つ。
この先例をAIへ移すなら、専門家を集めるだけでは制度は完成しない。どの機関が監督し、評価に従わない企業へ何ができるのかを決める必要がある。常駐評価者が問題を発見して公表する役割と、開発や展開を止める権限は別物だ。今回の賛同表明は、そこまでの権限配分を確定していない。
減速への賛同から、検証できる約束へ
減速論の背景には、AIが次のAIの開発を助け、その成果がさらに開発を加速する「再帰的自己改善」への懸念がある。ただし、AIが完全に自律して後継モデルを設計・開発する状態が完成したとは、Anthropic自身も説明していない。同社の「When AI builds itself」は、まだそこに到達しておらず、必然でもないと明記する。
現に進む開発支援の自動化と、将来の完全な自律循環は区別すべきだ。そのうえで、能力の向上に安全対策が追いついているかを第三者が継続して確かめる、という提案は成り立つ。Amodei氏も、ペース調整はモデル訓練や技術進歩の停止を意味しないと説明している。
企業間の調整も、賛同した人数だけでは進まない。Amodei氏は、安全性を巡る協議には反トラスト法上の課題があるとして、政府の仲介や一部協議への限定的な免除を求めている。民主主義国の企業間で共通基準を作り、さらに中国を含む国際協調へ広げる提案だが、全面的な減速を世界で実現することには同氏自身も慎重だ。
OpenAIの追加説明では、評価者が誰で、いつから、どの情報へアクセスできるかが具体的な判断材料になる。Anthropicが掲げた公表権に相当する条件を採用するのかも、まだ当該投稿からは分からない。各社の約束が契約と公開報告になり、共通の試験と結び付けば、社会は経営者の賛意以上の材料でAI開発の安全性を判断できるようになる。
