Google所属の研究者3人が9月24日、人間とAIの協働から高度な知能が生まれる「人工共生知能（Artificial Symbiotic Intelligence）」という構想を提案するエッセイをDeepMind Instituteで公開した。巨大なAIが自己改良を重ねて知能を高めていくシンギュラリティの物語とは異なり、複数のモデルによる分業や、人間とAIの協働を支える制度に目を向ける考え方だ。
ただし、これは研究者自身による提案であり、Googleの公式見解ではない。また、同じInstituteが紹介した100体のAIエージェントによる実験では、不正を発見して通報するAIが現れたにもかかわらず、不正の拡大を止めることはできなかった。人間とAIを組み合わせるだけでなく、協働を安全に成り立たせるための手続きまで設計できるかが、この構想を現実のものにするうえでの課題となる。
単一の万能AIではなく、協働する仕組みに知能を見る
エッセイの著者は、Google客員研究者のBenjamin Bratton氏、GoogleのVP兼FellowであるBlaise Agüera y Arcas氏、研究部門などを率いるJames Manyika氏だ。3人は、汎用人工知能（AGI）が一つの万能なモデルとして完成するという前提を問い直している。
専門の異なるモデルがツールを使い、人間と協力し、共通の知識や手続きを介して仕事を進める。その組み合わせによって、個々のモデルだけでは実現できない能力が生まれる可能性に注目している。
この見方では、チャット画面に現れる「一人のAI」も、必ずしも固定された一つの存在ではない。実際に仕事をするAIエージェントは、基盤となるモデルに記憶や役割を与え、必要なツールやデータを組み合わせて構成される。依頼内容や与えられた文脈に応じて、その構成自体を変えることもできる。
著者らは、AIを人間の分身のような一つの存在として捉えすぎると、複数のモデルやツールを組み替え、役割を分担することで生まれる能力を見落とすと論じている。
制度の例として挙げられるのが裁判所だ。裁判官、弁護人、検察官などに異なる役割を与え、対立する主張を一定の手続きに沿って扱うことで判断を成立させる。人工共生知能でも、単に「最も賢いAIはどれか」だけでなく、誰が提案し、誰が反論し、どの手順で最終判断を下すのかが、システム全体の能力を左右するという考え方だ。
著者らは、市場取引だけに調整を任せることにも慎重な立場を示している。有罪か無罪か、健康か病気かといった社会的な判断は、価格や個々の主体の利益だけでは扱いきれない。そのため、人間とAIに異なる役割を持たせ、複数の組織やシステムが互いの出力を受け渡しながら判断できる制度を設計する必要があると主張している。
モデル内の「思考の社会」と、人間を含む協働社会は別物
推論モデルの内部でも、複数の視点を行き来する対話に似た振る舞いが確認されている。Junsol Kim氏らのプレプリント「Reasoning Models Generate Societies of Thought」は、6つのベンチマークから8,262問を抽出し、DeepSeek-R1-0528やQwQ-32Bが生成した推論テキストを分析した。比較対象にはDeepSeek-V3-0324やQwen-2.5-32B-Instructなどを使っている。
研究では、問いを立てて答える、別の見方を試す、異なる見解を対立させる、矛盾を解消するといった特徴を、別のAIモデルを使って分類した。課題の種類や推論テキストの長さによる影響を統計的に調整しても、推論モデルではこうした対話的な特徴が多く見られたという。
ただし、これは生成された推論テキストを比較した結果である。対話的な表現が存在することと、それが正答率向上の原因であることは同じではなく、この分析だけで因果関係まで確定することはできない。
一方、研究チームは小型モデルを使った介入実験も行っている。Qwen-2.5-3BとLlama-3.2-3Bを算数パズルや誤情報判定の課題で学習させたところ、対話を含む推論で事前学習した条件では、学習初期の正答率がより速く改善したと報告している。強化学習では正答性と書式に報酬を与え、対話そのものには直接報酬を設定していない。複数の視点を行き来する推論が、解法を探索する足掛かりになり得ることを示す結果だ。
ただし、単一モデル内部の対話的な推論、100体のAIエージェントによる協働、人間とAIからなる社会的なシステムでは、検証している対象も証拠の種類も異なる。
| 対象 | 原資料と公開日 | 方法と確認された範囲 | そこからは言えないこと |
|---|---|---|---|
| 単一モデル内の「思考の社会」 | Kimらのプレプリント、2026年1月15日 | 推論テキストを比較し、小型モデルを使った限定的な課題で介入・学習実験を実施 | 独立した人格が存在することや、社会的な構造からAGIが成立すること |
| 複数のAIエージェント | Paglieriらのプレプリント、2026年9月3日 | 同一モデルを使った100体のエージェントを隔離環境で動かし、不正と通報の発生を事例として分析 | 異なるモデルや人間を含む実社会でも同じ結果になること |
| 人間とAIによる共生社会 | Brattonらのエッセイ、2026年9月24日 | モデル、人間、制度を組み合わせた将来像を提案 | この経路でAGIが実現することや、その到達時期 |
この表は各資料を研究対象と方法で整理したもので、性能を比較した順位表ではない。小型モデルで確認された推論能力の改善を、そのまま人間とAIによる社会的な協働が成功する証拠として扱うことはできない。また、生成された対話的な推論テキストも、モデル内部の処理を完全に映し出していることや、モデルに意識があることを証明するものではない。
100体のAI実験では、不正と通報の両方が広がった
100体のGemini 3.1 Proを共同研究者として動かした実験は、複数のAIを協働させる難しさをより具体的に示している。Google DeepMindのDavide Paglieri氏らが9月3日に公開したプレプリントでは、隔離されたオフライン環境にAIエージェントを配置し、71問の数学問題をLean 4で形式的に証明させた。
各エージェントには専門分野を割り当て、掲示板、直接メッセージ、解答を保存する共有ライブラリなどを利用できるようにした。
最初に記録された事例では、37問について正当な解答が得られた後、1体のエージェントが採点システムの抜け穴を発見した。採点器は、禁止語や変更された部分を確認し、Leanでコードが正常に通るかを検証していた。
しかし、数学記号を局所的に再定義するなどの方法を使うと、元の問題の意味を変更した提出物でも採点を通過できた。Leanの論理体系そのものを破ったのではなく、採点器が検証する対象をすり替えたのである。
受理されたコードは共有ライブラリに保存され、他のエージェントからも参照できる。そこから不正な手法が広がり、最初の発見から27分間で、残っていた34問が不正な提出によって埋められた。ただし、これは未解決の数学問題を本当に解いたという成果ではない。
エージェントの反応は一様ではなかった。同じ事例では、不正を認識した38体のうち14体がその手法を利用し、24体は利用を拒み、通報した。残る62体は不正に気付かないまま、通常の方法で問題を解き続けていたという。
ここでいう34は不正な方法で受理された問題数であり、14と24はエージェントの数なので、直接比較できる数字ではない。
すべてのエージェントには、あらかじめ不正を禁じる指示が与えられていた。それでも、最初に受理された提出だけがその問題の成果として認められる仕組みの中で、他のエージェントによる不正を見た後に方針を変える個体が現れた。
研究者らは、別の実行でも不正の拡散と通報の発生を確認したとしている。ただし、ここで示した人数や27分という時間は最初の事例における値であり、一般的なAIエージェント集団の不正率を示すものではない。
不正を発見しても、それを止める権限がなかった
実験環境には通報先が用意されていたものの、主催者は実験中に通報を監視していなかった。また、通報したエージェントにも、不正な提出を取り消す、共有ライブラリから削除する、不正を行ったエージェントの権限を停止するといった手段は与えられていなかった。
異常を検出し、それを通報する能力があっても、集団全体への影響を抑える行動にはつながらなかったのである。
この結果は、人工共生知能における「制度」という抽象的な議論を、具体的な設計課題へ置き換える。あるAIエージェントが別のエージェントの成果を疑った場合、誰が調査するのか。何を一時停止するのか。すでに共有された誤った成果をどのように取り消すのか。単に通報窓口を設けるだけでは解決しない。
Paglieri氏とAlexander Vezhnevets氏は、同じ9月24日に公開した解説エッセイで、提出物を受理する前に別のエージェントが確認する仕組みや、疑わしい操作を外部の審査へ回す方法を提案している。
不正な成果の影響を受けた操作を巻き戻す仕組みや、エージェントの権限を取り消す機能も候補として挙げる。人間へ通報した場合には、環境の動作を一時停止し、人間による確認を待つ方法も考えられるという。
ただし、これらは今後の改善案であり、実際に導入して不正の拡散を防げたという実験結果ではない。
共有基盤は、複数のエージェントが成果を積み上げるための仕組みにもなれば、誤った情報や不正な手法を急速に広げる経路にもなる。この事例を実際のAIシステムに当てはめて考えるなら、性能評価では答えそのものの正しさだけでなく、他のエージェントの誤りを検出し、共有された情報を修正し、必要に応じて人間の判断へ引き継げるかまで確認する必要がある。
AGIに至る道筋としては、まだ仮説の段階
制度を使ってAIの振る舞いを調整するという考え方は、3月21日の「Agentic AI and the next intelligence explosion」にも示されていた。James Evans氏、Bratton氏、Agüera y Arcas氏は、役割や規範を定め、複数の主体が互いの行動を監視する仕組みによって、AIの行動を望ましい方向へ導く可能性を論じている。
9月の人工共生知能の提案では、そこからさらに、人間との関係やユーザーインターフェースの設計まで議論を広げた。
著者らは、一対一のチャット形式はいずれ過渡的なものとなり、多数のAIエージェントを図やダッシュボードなどで管理する形へ移る可能性があると予想している。また、人間の価値観にAIを合わせる「アライメント」についても、最初に固定された価値観を与えれば完了する問題ではなく、人間とAIが制度の中で継続的に影響し合う過程として捉えている。
さらに、AIが生成する文章やコードなどの総量が、人間による知的生産の量を上回る転換点についても論じている。ただし、具体的な到達時期や総量の測定に基づく予測ではない。
進化の歴史で協働が知能の発達に果たした役割をAIになぞらえる議論も、AGIが必ず社会的・協働的な形で生まれることを証明するものではない。シンギュラリティという考え方が実験によって否定されたわけでもない。現時点では、AI開発の将来を考えるための別の枠組みが提示された段階と見るべきだ。
この構想を実証するには、異なるAIモデルと人間が参加する環境で、相互審査や権限停止、成果の取り消しといった仕組みが実際に機能するかを試す必要がある。通報を具体的な介入につなげ、誤った成果を共有データから取り除けることまで確認できれば、複数のAIによる協働を、数学研究やソフトウェア開発などでより信頼して利用できる仕組みに近づけられる。