AIに「良心」は教えられるのか？Anthropicが15超の宗教・文化集団と対話

AI開発企業が、モデルの倫理的な振る舞いを改善するため、宗教指導者や哲学者、倫理学者との対話を進めている。Associated Press（AP）の2026年10月25日付報道によると、Anthropicをはじめとするテクノロジー企業は、宗教や哲学の長い歴史の中で培われてきた知見を、AIの開発に生かそうとしている。Anthropicの共同創業者であるChris Olah氏は、バチカンで開かれた会合で、AIの倫理に関する問題は一つの研究所だけで答えを出せるものではないとの考えを示した。技術的な専門知識だけでなく、さまざまな文化や思想の視点を取り入れる必要があるという立場だ。

もっとも、宗教界との対話が進んでいることと、AIが実際に倫理的な判断力を身につけたことは区別しなければならない。外部の有識者から助言を受ける取り組みには意義があるものの、それだけでAIの安全性が向上したとは言えない。工学的に検証できるのは、特定の条件下でモデルがどのような回答を生成し、どのような操作を選択するかといった、観測可能な振る舞いである。人間のような良心や信仰、意識、道徳的主体性が機械にも存在するのかという哲学的な問題とは、分けて考える必要がある。

例えば、AIが倫理的な配慮を示す文章を生成したり、自らの判断を振り返るような応答を返したりしても、それだけで内面的な信念や反省の存在が証明されるわけではない。重要なのは、こうした振る舞いがどのような技術によって生まれ、実際の安全性向上にどの程度寄与しているかだ。Anthropicの公式文書やConstitutional AIの研究成果、バチカンの公的文書を照らし合わせると、企業が目指す倫理的なAIの姿と、現時点で実証されている技術的成果の間には、なお隔たりがある。

Anthropicが15超の宗教・文化集団と対話、モデルへの反映はどこまで進んだのか

Anthropicは2026年5月19日の公式発表で、宗教学者、聖職者、哲学者、倫理学者など、15を超える宗教・文化集団の関係者と初期段階の協議を行ったことを明らかにした。参加者は主要な宗教的伝統に加え、哲学や世俗的ヒューマニズム、多様な政治的立場にまたがるという。同社はAIの安全性や社会的影響を考えるうえで、技術者だけでなく、長年にわたり人間の価値観や倫理について考察してきた人々の知見が重要だとしている。

対話の目的は、Claudeを特定の宗教や教義に従わせることではない。Anthropicは、宗教的、世俗的、政治的な立場を問わず、多様な視点を同じ深さで理解できるモデルを目指すと説明している。AIが複雑な状況に直面した際、特定の価値観に過度に偏らず、異なる考え方を踏まえて判断できるようにすることが狙いだ。ただし、これは同社が掲げる開発方針であり、Claudeがあらゆる価値観に対して中立的に振る舞えると実証されたわけではない。

また、今回の協議がClaudeの学習にどこまで反映されているかも明らかになっていない。Anthropicは、憲法と呼ぶ行動指針の作成時に外部から意見を募ったことや、対話を通じて新たな実験の着想を得たことを説明している。しかし、参加者の具体的な発言や提言が、どのモデルのどの学習工程に使われたのか、その詳細は公開されていない。外部との対話が実施された事実と、それによってモデルのパラメータや実際の振る舞いが変化したという主張は、別々に検証する必要がある。

{
  "type": "bar",
  "title": "公開資料から確認できる対話活動と技術検証の状況",
  "unit": "件数・集団数",
  "categories": ["宗教・文化集団（15超）", "言及された他社（4社）", "公開された定量ベンチマーク（0件）"],
  "series": [
    { "name": "公開情報に基づく数値", "values": [15, 4, 0] }
  ],
  "caption": "15は「15超」という公表値の基準点を表す。項目ごとに数えている対象が異なるため、数量の直接比較には適さない。",
  "source": "Anthropic公式発表・AP通信報道"
}

宗教界との接触はAnthropicに限った動きではない。APによると、Meta、Google、Amazonの担当者もバチカンの関係者と面会しており、Microsoftも宗教指導者との対話を積極的に進めてきた。ただし、各社の取り組みはそれぞれ独立した活動であり、共通の基準や手法に基づく業界全体のプログラムではない。意見交換の内容が、各社の商用モデルにどの程度反映されたかについても、十分な情報は公開されていない。

Claudeの「憲法」が定める価値の優先順位と、AIに学習させる仕組み

宗教や倫理に関する知見をAIの振る舞いに反映させる仕組みを理解するには、Anthropicが採用する「Constitutional AI（憲法AI）」の考え方を押さえる必要がある。同社のClaudeの憲法（Claude's Constitution）は、モデルに期待する価値観や行動原則を自然言語で記述した文書であり、Claudeの学習方針を形づくる重要な役割を担っている。個別の質問への対応方法を細かく規定するだけでなく、判断に迷う状況で何を優先すべきかという基本的な考え方を示している。

Anthropicが2026年に公表した憲法では、Claudeが守るべき原則として、次の4つを優先順位とともに定めている。

1. 広範な安全性の確保（Broadly safe）: 人間によるAIの監督や修正を妨げないこと。
2. 広範な倫理的配慮（Broadly ethical）: 誠実に振る舞い、適切な価値判断によって危険や害を避けること。
3. Anthropicの指針への準拠（Compliant with Anthropic's guidelines）: 個別の状況に応じて企業が定めた運用指針を守ること。
4. 利用者への有用性（Genuinely helpful）: 利用者にとって実質的に役立つこと。

これらが衝突した場合、Claudeは原則として上位の項目を優先するよう設計されている。つまり、利用者の要求に応えることよりも、人間による監督を維持し、倫理的な問題を避けることが重視される。ただし、この優先順位はAnthropicが設計したものであり、AI自身が独立して導き出した倫理体系ではない。また、同社は柔軟な価値判断を重視する一方、生物兵器による攻撃への重大な加担など、深刻な危害につながる行動には厳格な禁止条件も設けている。

こうした自然言語の原則を、実際の機械学習にどう組み込むのか。その基礎となる仕組みは、Anthropicの研究者らが2022年12月に公開した論文「Constitutional AI: Harmlessness from AI Feedback」で説明されている。同論文で提案された手法は、大きく分けて自己批判・自己修正を利用する教師あり学習と、AIによるフィードバックを使った強化学習（RLAIF）の2段階で構成される。

最初の教師あり学習では、モデルに有害な質問への回答を生成させ、その回答を憲法の原則に照らして批判・修正させる。例えば、ある回答が危険な行為を助長する内容だった場合、モデル自身に問題点を指摘させ、原則に沿った回答へ書き直させる。修正後の回答を教師データとして使い、モデルをファインチューニングすることで、望ましい回答の傾向を学習させる仕組みだ。

続く強化学習では、モデルが生成した複数の回答候補を、憲法の原則に基づいて別のAIモデルに比較・評価させる。その評価結果から選好モデルを学習し、選好モデルが出力する報酬を使って元のモデルを最適化する。これは、人間がすべての回答に直接評価を付ける代わりに、AIの評価を学習信号として利用する方法である。なお、ここでいう「AIによる評価」は、人間の関与が一切不要という意味ではない。評価基準となる憲法の原則そのものは、人間が設計している。

2022年の実験では、初期回答を生成するモデルとして、有用性を重視する一方、無害性について特別な調整を受けていないアシスタントが使われた。あえて問題を含み得る回答を生成させ、それを原則に沿って修正することで学習効果を調べるためだ。研究では、危険な応答を抑えながら、必要以上の回答拒否を避けられるかといった実用的な指標が評価された。

ただし、この論文は2022年時点の技術を説明したものであり、現在の商用Claudeモデルでまったく同じ学習工程が使われているとは限らない。また、評価されたのは無害性や有用性など、観測可能なモデルの振る舞いである。宗教的な教養や人間のような道徳的成長、意識の存在を検証した研究ではない点にも注意が必要だ。

「倫理的なリマインダー」で問題行動が減少、ただし効果の原因は未解明

Anthropicは2026年5月の発表で、宗教や倫理に関する対話から着想を得た、新たな振る舞い制御の実験についても報告している。人間が難しい判断を迫られた際、信頼できる助言者の言葉や自分の信念を思い起こすことに着目し、Claudeが作業中に倫理原則を確認できるツールを試したという。具体的には、モデルが必要に応じてツールを呼び出すと、自らの倫理的な行動原則を短くまとめたリマインダーが返される仕組みだ。

同社によると、Claudeは重大な結果につながり得る操作の直前などに、このツールを自発的に呼び出すことがあった。自らの利益相反の可能性を指摘するケースも確認されたという。また、ツールを意思決定の過程に組み込んだ実験では、複数の社内アライメント評価において、意図した行動原則から外れる振る舞いの発生率が大幅に低下したと報告している。

これはAIの安全性を高める手法として興味深い結果だが、解釈には慎重さが求められる。倫理原則を確認するツールの呼び出しは、モデルの推論過程とAPIによる処理として説明できる。AIが人間のような良心を働かせ、内面的な葛藤を経て行動を思いとどまったと解釈する根拠にはならない。

さらに重要なのは、実験結果を検証するための情報が十分に公開されていないことだ。Anthropicの発表には、問題行動がどの程度減少したのかを示す具体的な数値や、統計的な信頼区間、評価対象となったタスク数、使用モデルの詳細なバージョン、ベンチマークの仕様などが含まれていない。そのため、報告された改善効果がどれほど大きく、別の条件でも再現できるのかを外部から判断することは難しい。

{
  "type": "bar",
  "title": "倫理リマインダー実験に関する情報公開の状況",
  "unit": "開示の有無",
  "categories": ["定性的な挙動の説明", "統計的効果量", "誤差範囲・信頼区間", "査読済み論文"],
  "series": [
    { "name": "公開状況（1=あり、0=なし）", "values": [1, 0, 0, 0] }
  ],
  "caption": "2026年5月19日のAnthropic公式発表における開示状況。数値は各項目の公開有無を表し、実験の性能を示すものではない。",
  "source": "Anthropic公式発表"
}

もう一つの重要な問題は、改善が何によって生じたのか分かっていないことだ。Anthropic自身も、効果の原因がリマインダーに含まれる倫理的な内容なのか、それともモデルが処理を中断して再考する機会を得たことなのか、まだ切り分けられていないと認めている。言い換えれば、倫理原則を読み直すことが有効だったのか、単に追加の推論ステップを設けたことが有効だったのか、現時点では判断できない。

大規模言語モデルでは、追加の推論過程や計算量によって、回答の正確性や判断の安定性が改善する場合がある。そのため、倫理的な内容を含まないリマインダーを使った場合や、同程度の推論時間だけを追加した場合と比較する対照実験が必要になる。こうした条件を揃えなければ、宗教や倫理に関する知見そのものが安全性向上に寄与したと結論づけることはできない。

今回の報告は、査読済み論文や詳細な実験データを伴う独立したプレプリントではなく、Anthropicの社内評価に基づく予備的な成果である。同社は今後さらに結果を共有する方針を示しているが、追加の検証が公表されるまでは、定性的な改善報告と科学的に確立された効果を区別して扱う必要がある。

多様な宗教の価値観をAIに反映させる難しさと、残された検証課題

宗教や倫理の知見をAIに取り入れる取り組みは、技術的な問題だけでなく、異なる価値観をどう調整するかという難題も抱えている。宗教や文化によって、善悪の判断基準や重視する価値は必ずしも一致しない。複数の立場を取り入れようとしても、それぞれの教義や伝統を十分に理解せず、共通する要素だけを抜き出してしまえば、本来の意味が失われるおそれがある。

APの取材に応じたノートルダム大学のPaolo Carozza教授は、さまざまな宗教的伝統を一つにまとめようとする過程で、それぞれの特徴が薄まり、無難な中間的見解に収束してしまう可能性を指摘した。また、西洋的な宗教観が暗黙のうちに優先される危険性にも言及している。こうした懸念は、特定のAIモデルで実際に欠陥が確認されたという報告ではなく、宗教や価値観の扱い方に関する批判的な見解である。

問題は、宗教を単純な倫理規則の集合として扱えるとは限らないことにある。宗教的な伝統は教義だけで成り立っているわけではなく、儀礼や文化、共同体の人間関係、歴史的な実践とも深く結びついている。異なる伝統から抽出した原則を単純に組み合わせても、その結果が各文化にとって公正であるとは限らない。最終的に誰の価値観を採用し、どのような優先順位を付けるのかという判断には、開発企業の裁量が入り込むことになる。

この問題に関連して、カトリック教会は2026年5月15日、教皇レオ14世の回勅「Magnifica Humanitas」を公表した。同文書は、AIを含む技術の発展において、人間の尊厳と社会全体の利益を中心に据えるべきだと訴えている。また、開発者自身もAIの内部動作を完全には理解していないことを指摘し、科学的研究の深化とともに、倫理的・社会的な判断の必要性を強調した。

回勅では、技術的な権力が一部の企業や組織に集中することへの懸念も示されている。AIの設計や運用に関する重要な判断が限られた人々によって行われれば、その価値観が社会全体に影響を及ぼしかねない。こうした事態を防ぐため、説明責任の明確化、独立した監督体制、適切な法的規制などを求めている。ただし、回勅は宗教的・社会的な観点から望ましい技術開発のあり方を論じた文書であり、AIの能力や限界を実験によって明らかにした学術研究ではない。

AIに良心や道徳的主体性があるのかという問題についても、立場を区別する必要がある。AnthropicはClaudeの憲法の中で、AIが意識や道徳的地位を持ち得るかどうかについて、現時点では大きな不確実性が残ると説明している。一方、バチカンの回勅は、人間の経験や良心とAIによる情報処理を明確に区別する立場を示している。いずれにしても、AIが感情や倫理的葛藤を表現する文章を生成したことだけで、主観的な意識や苦痛の存在を科学的に証明できるわけではない。

宗教界との対話がAIの安全性向上につながる可能性を評価するには、企業の理念や定性的な報告だけでなく、再現可能な実験結果が必要だ。特に、倫理的なリマインダーを用いた実験については、モデルのバージョン、評価タスク、改善率、統計的な誤差範囲を明らかにしたうえで、同じ推論時間を与えた対照群との比較が求められる。また、外部の有識者から得た知見が、憲法の改訂や安全性評価、モデルの学習にどのように反映されたのかを追跡できる透明性も重要になる。

Anthropicなどの取り組みは、AIの安全性を技術者だけで決めるのではなく、社会の多様な価値観を踏まえて考えようとする動きとして注目される。しかし、宗教や哲学の知見を取り入れることと、それによってAIの振る舞いが実際に改善することは同義ではない。今後の焦点は、対話から得られた原則が具体的な技術としてどう実装され、どのような条件で安全性の向上につながるのかを、第三者が検証できる形で示せるかどうかにある。