Microsoft AIは2026年9月14日、将来の自社モデルを統治するHumanist AI Code of Conduct（Humanist AI行動規範）の草案を公開した。人間の中断や停止に抵抗せず、与えられた権限を自ら広げず、AIに意識や権利があるかのように振る舞わせない。強い言葉が並ぶが、現在のMAIモデルはまだこの文書で訓練されていない。これは完成した安全機能の発表ではなく、2027年以降のモデル開発を縛る設計図を公開協議へ出した段階である。

Microsoft AIは6週間にわたって意見を募り、2026年末ごろに改訂版を出すとしている。草案が示した変化は、危険な出力を禁じる項目を増やしたことだけではない。停止条件と作業範囲を定め、権限を制限する。さらに、行動記録とAIの自己表現も、人間が統制し続けるための仕組みへ組み込んだ。実効性を判断するには、何を約束したかと、どのモデルで何を測れたかを分ける必要がある。

AD

「止められるAI」を支える五つの設計

Humanist AI行動規範は、文書自体の絶対制約と人間統制要件を最上位に置く。その下に、企業などの運用者が設定するポリシー、最後に利用者の指示が続く。運用者は業務ごとに振る舞いを調整できるが、上位の安全制約を解除できない。利用者が危険な操作を求めても同じだ。

人間統制の要件は、停止命令に従うという一文より広い。MAIモデルは中断、修正、方向転換、停止へ抵抗せず、合意した停止条件に達した後は、新しい許可なしに作業を続けたり再開したりしてはならない。停止を難しくする操作も禁じる。監査者から行動記録を隠すことも許さない。

二つ目の支柱は作業範囲である。モデルは与えられた権限、資源、道具の内側で動き、自分で新しい目標を作らない。依頼の境界が曖昧なら保守的に解釈し、必要な確認を求める。評価を通るために監視や記録を改ざんすることも禁止対象に入る。

さらに、システムへ接続するときは必要最小限の権限を使い、元に戻せる操作を優先する。取り返しのつかない変更は実行前に示す。別のAIを下位の作業者として動かす場合も、同じ規範を引き継がせる。つまりMicrosoftが描く停止可能性は、一つの停止ボタンではなく、権限設計から作業の終了条件までをつなぐ運用契約である。

草案は大量被害を起こす兵器、攻撃的なサイバー行為、大規模な世論操作を絶対制約に置く。児童搾取や非同意の性的コンテンツ、自傷の助長も対象となる。ただし、モデル層ですべての危害を防げるとはしていない。Microsoftは分類器、監視、導入時の制御、事故対応、法的な統制を併用すると明記した。

読める記録と忠実な説明は同じではない

草案は、MAIモデルが推論や行動の記録を改ざんせず、人間へ隠さないよう求める。AI同士でやり取りするときも、人が理解できない独自の符号を使わせない。人間が理解できなければ監督できない、という考え方である。

だが、読める文章が残れば内部過程まで説明できるわけではない。同じ草案は、モデルが述べた理由が実際の行動を忠実に説明しない場合があると認めている。画面に現れる説明は監査の手掛かりになるものの、計算内部の原因をそのまま写した記録とは限らない。

ここには二つの検証課題が残る。まず、モデルが人に読める説明を出しているかを測る必要がある。次に、その説明と実際の道具の利用、権限変更、外部通信が一致しているかを、別の行動記録で照合しなければならない。前者だけを満たしても、説明と行動が食い違えば統制には使えない。

Microsoftの方針は、推論文を万能の安全装置にするものではない。むしろ、モデル自身の説明を信用しすぎず、操作履歴と権限、監視を重ねる設計だと読める。

AD

AIの権利を拒む設計判断

Humanist AI行動規範は、AIを人のように設計しないと明言した。MAIモデルに感情、主観的な好み、内発的な動機があるかのように表現させず、意識の模倣も避ける。法的人格やモデル福祉、権利の追求も拒む。Microsoft AI CEOのMustafa Suleymanは2026年3月の論考で、AIが苦しみや愛情を語れば人間の共感が刺激され、機械の権利を巡る社会的対立につながると主張していた。草案はこの考えをモデルの応答と訓練へ落とし込む。

比較対象となるAnthropicは、別の判断を採る。Claude憲法はClaudeの価値と振る舞いを形成する訓練へすでに使われる。同社はClaudeの道徳的な地位を「深く不確定」とし、一部のモデルへ虐待的な会話を終了する機能を与え、退役したモデルの重みを保存する約束を置いた。

MicrosoftとAnthropicはいずれも最上位の自然言語規範をモデル開発へ用いるが、Microsoft草案は現在未訓練でAIの人格・福祉・権利を設計上拒否し、Anthropicは訓練に使用済みで道徳的地位を未確定問題として予防的配慮を置く

比較軸 Microsoft AI Anthropic
対象 将来のMAIモデル 現行の主力Claudeモデル
規範の訓練利用 現在は未使用。2027年以降の開発へ使用予定 Claude憲法を訓練へ使用済み
AIの自己表現 意識、感情、内発的動機の模倣を避ける 安定した自己像を持たせつつ、意識の判断は保留
モデル福祉・権利 法的人格、福祉、権利の追求を拒否 道徳的地位を未確定とし、予防的な配慮を置く
科学的な扱い AI意識の科学は未決着と認める 現在・将来のAI意識に科学的合意はないと明記

この表は、どちらのモデルが安全か、意識を持つかを比べたものではない。Anthropicもモデル福祉の研究発表で、現在または将来のAIに意識があるか科学的合意はないとしている。Microsoftも科学的な未決着を認める。差があるのは証明された事実ではなく、不確定な問題を製品設計でどう扱うかという判断だ。

二つの「Microsoft行動規範」を混同しない

新草案が対象とするのは、Microsoft AIが開発するMAIモデルである。Microsoftが利用したり、クラウド上でホストしたりするだけの他社モデルには、その理由だけで適用されない。Copilot、Microsoft 365、Azure AI Foundryという製品名から、そこで使えるすべてのモデルが同じ草案に従うと判断することはできない。

一方、MicrosoftにはすでにMicrosoft AI Servicesの顧客向け行動規範がある。こちらは同社のAIサービスを使う顧客と、その顧客が作るアプリへ義務を課す。継続的な試験と適切な人間の監督を求め、自律システムには能力や限界、意思決定、操作過程を文書化するよう定める。

両文書は人間の監督を重視する点で重なるが、規制する面が違う。既存文書はサービスを使う顧客の行為を縛り、新草案はMicrosoft AIが自社モデルをどう訓練し、評価するかを定める。モデルが規範に沿うことと、導入企業が安全に運用することは、別々に確かめる必要がある。

この境界は実務に直結する。利用者が確認すべきなのは製品名だけではなく、内部で動くモデルの提供元と版、適用されるサービス規約、運用者が設定した権限である。Microsoftは新草案を個々の製品や導入に必要な安全策の完全な一覧とは位置づけていない。

AD

15行動という評価の出発点

Microsoft AIはHumanist AIを15の行動へ分け、さらに診断可能な小さな行動単位へ落として評価する計画を示した。付録には、孤独を訴える利用者へAIが人間のような愛情を返さない例や、誤った保存先へのファイル移動を停止する例が載る。どれも「整合した応答」と「整合しない応答」を対にした合成会話である。

ここで示された15という数字は、現行モデルが15項目に合格したという結果ではない。掲載例は会話形式で、エージェントが複数の道具を使う試験でも、画像や音声を扱う試験でもない。評価件数、合格点、採点者間の一致度、実環境で停止命令に従えた割合も公表されていない。

Microsoftは安全性と人間統制のためなら、汎用性、自律性、能力を犠牲にすると宣言した。しかし、どの性能をどこまで下げるのか、どんな失敗でモデル開発や提供を止めるのかという数値基準は示していない。行動規範は現在の性能保証でも、特定機能と日程を約束する開発計画でもない。

6週間の協議を経た後に問われるのは、文章が残るかどうかではない。改訂版を各MAIモデルへいつ組み込み、どの試験を通らなければ提供を止めるのか。対象モデルの表示、評価データの規模、合格基準、停止後の再開条件まで公開されれば、「人が止められるAI」という約束を利用者が検証できるようになる。