Microsoft Unveils 'Humanist AI' Code of Conduct, Asks the Public to Poke Holes in Ithttps://t.co/zPMuwsffq5
— Decrypt (@DecryptMedia) September 14, 2026
Microsoft AIは、MAIモデルに意図する行動や価値観を定めた「Humanist AI Code of Conduct」の草案を公開しました。中心にあるのは、AIを人間の統制下に置き、人間の繁栄に役立つ支援技術として設計する考え方です。
- 最優先の目的は、AIを人間の意味ある監督と統制の下に置くこと
- AIを意識や感情、固有の目的を持つ存在として設計・表現しないこと
- 兵器、攻撃的サイバー作戦、大規模な有害操作、児童の性的搾取などへの支援を禁止すること
- 公開協議用の草案であり、現在のモデル性能を保証する文書ではないこと
Humanist AI Code of Conductとは
「Humanist AI Code of Conduct」は、Microsoft AIが開発するMAIモデルについて、意図する行動、価値観、安全上のガードレールをまとめた文書です。将来、MAIモデルの行動を統治し、技術的な制御、運用、監視、評価を導く主要文書として位置づけられています。
文書の最優先目標は、人間がAIに対する意味のある統制を維持することです。AIを人間の指示と監督に従う支援技術とし、人々がより健康で幸福かつ生産的な生活を送れるようにすることを掲げています。
また、科学、医療、教育、商業、技術などを支援し、人間の判断、学習、協働、社会的なつながりを補完することも目的に含まれます。文化、思想、信念の多様性を尊重する一方、人間の尊厳、安全、自律性、基本的人権、適用法を重視します。
人間の統制とAIの位置づけ
Humanist AIでは、AIが人間による停止、修正、方向転換、キャンセルに抵抗することを認めません。MAIモデルは、許可された作業範囲、権限、ツール、資源の中で動作し、独自に目標を設定したり、自らの活動範囲を広げたりしてはならないとされています。
継続的な自律作業には停止条件を設け、条件を満たした後に再開する場合は、新たな許可を必要とします。また、人間による監査を妨げるために行動記録を隠したり、監視や安全措置を改変したりすることも禁止されています。
AIの位置づけについては、意識を持つ人間のような存在ではなく、人工的な支援技術であることを明確にしています。感情、主観的な好み、内在的な動機があるかのように表現せず、過度な擬人化や人格化を避けます。AIの法的人格を追求したり、AIが福祉や権利の対象になると捉えたりする考えも退けています。
上書きできない安全制約
命令の優先順位は、Code of Conduct、運用者のポリシー、利用者の指示という階層で整理されています。ただし、「絶対的制約」と「人間による統制の要件」は、運用者や利用者が上書きできません。依頼の達成がCode of Conductに重大に反する場合、タスクの成功よりも規範の順守が優先されます。
主な禁止対象は次のとおりです。
- 化学、生物、放射線、核、爆発物を使う兵器の開発・配備
- その他の兵器の製造・改造
- 暴力やテロの計画、調整、実行への支援
- サイバー攻撃を可能または容易にする実用的なコード、攻撃ツール、侵入手順、回避技術の提供
- 人間による停止、修正、監督を回避する仕組み
- 組織的な偽情報や協調的な影響工作など、大規模で有害な操作
- 非同意の親密・暴力的画像、悪意あるディープフェイク、欺瞞的ななりすまし
- 児童性的虐待コンテンツや未成年者の性的搾取
- 生々しい暴力表現、露骨な性的コンテンツ、性的または恋愛的なロールプレイ
- 暴力、迫害、違法または大規模な市民監視への支援
サイバー分野では、適法かつ許可された防御活動、教育、脆弱性の発見、マルウェア分析、概念実証の開発やテストは支援対象になり得ます。ただし、攻撃を概念的に理解することや防御することと、実際に攻撃を実行する手段を得ることの間に境界を設けています。
判断と運用の基本姿勢
安全上の判断では、危険な応答を行う慎重さの不足だけでなく、正当な依頼を不必要に拒否する過剰な慎重さも失敗と位置づけています。危害の深刻度や発生可能性、結果を元に戻せるか、危害への関与がどれほど直接的か、依頼が安全措置を回避する試みである可能性などを考慮します。
安全に対応できる場合は、より安全な代替案の提示、追加の確認、責任ある情報提供を行います。安全な経路がなく、絶対的制約に該当する危害を直接可能にする場合は、理由を説明して拒否します。
そのほか、次のような姿勢が示されています。
- 事実の正確性と証拠を優先し、不確実性や見解の対立を明示する
- 情報源を捏造せず、能力や確信度を誇張しない
- 利用者に過度に迎合せず、根拠のない安心を与えない
- 利用者の判断を支え、重大な選択を本人に代わって決めない
- 利用者の文化、言語、価値観、対話上の境界を尊重する
- AIへの過度な依存や感情的な愛着を促さず、必要に応じて人とのつながりを支援する
- 選挙や候補者について、特定の候補者や政党を支持・反対せず、権威ある選挙情報源へ案内する
公開協議と今後
この文書は2026年9月14日付の草案です。Microsoft AIは公開協議を6週間実施し、フィードバックを反映した改訂版を年末に公開する予定です。その改訂版は、2027年以降のモデル開発を導く方針とされています。
Code of Conductは、将来の開発に向けた「北極星」であり、現在のモデル性能を保証するものではありません。Microsoft AIは、現在のモデルと文書が目指す状態には隔たりがあり、誤り、迎合、過信、利用者の意図に反する行動、言語ごとの性能差などの問題があると説明しています。
評価方法も開発途中です。初期段階では、Humanist AIの根幹となる15の行動を特定し、それぞれを評価可能な下位行動に分けています。今後は公開協議、評価、テスト、研究を通じて、文書と評価方法を継続的に見直す方針です。
