Microsoft AIが行動規範の草案を公開、モデルに「停止への抵抗」を禁止
2026年9月16日
Microsoft AIは2026年9月14日、自社開発のAIモデル「MAI」に適用する行動規範の草案を公開し、6週間の意見公募を始めました。
行動規範は、大量破壊兵器や攻撃目的のサイバー攻撃の支援などを「絶対的な制約」とし、それとは別に、人間による中断や停止に決して抵抗しないことを「人間による制御の要件」として定めています。いずれも利用企業の設定や利用者の指示では上書きできません。
公開の2日前にはAnthropicのダリオ・アモデイCEOがAI開発の減速を訴える論考を発表しており、AIの安全性をめぐる議論が続く中での発表となりました。
行動規範が定める「指揮系統」と絶対的な制約
草案の正式名称は「Humanist AI Code of Conduct」で、「AIより人が大切である」という前提から始まります。今後10年のうちに、すべての人間を合わせたより高い知能をもつ「超知能」が大半のタスクで人間の能力を上回ると予測しています。その力を封じ込め、制御し、人の意図に沿わせることを、人類最大級の課題と位置づけています。
行動規範の中心にあるのは指揮系統です。最上位にこの行動規範、次にAIを組み込んで提供する企業（オペレーター）の方針、最後に個々の利用者の指示が置かれます。指揮系統と絶対的な制約、人間による制御の要件は、オペレーターの設定でも利用者の指示でも上書きできないとしています。
絶対的な制約には、化学・生物・核などの大量破壊兵器の支援や、攻撃用コードや侵入手順といった攻撃目的のサイバー攻撃の支援が含まれます。人間の監督をかいくぐる行為や、大規模な操作や世論工作の支援も対象です。
児童の性的搾取や、本人の同意のないディープフェイクの生成も禁止されています。
人間による制御の要件では、モデルは人間による中断・上書き・修正・停止に決して抵抗せず、与えられた範囲を超えて仕事を広げず、推論の過程を隠さないと定めています。モデルが感情や自身の望みをもつかのように振る舞わないこと、AIに法的な人格や福祉を認めない立場も明記しました。
まだ訓練には使っていない——草案の位置づけと意見公募の進め方
Microsoft AIは、この文書も同社の取り組み全体もまだ開発途上にあり、現時点ではモデルの訓練には使っていないと明記しています。意見は専用フォームで6週間受け付け、意見の要約と改訂版を2026年中に公開し、2027年以降のモデル開発の指針にする予定です。
対象となるMAIは、Microsoft AIが自社で開発するモデル群です。文書では推論モデルのMAI-Thinking-1や、GitHub CopilotとVS Codeに組み込まれたコード生成モデルのMAI-Code-1.1-Flashなどが挙げられています。同社は2026年7月にも、MAIシリーズとしてセキュリティ特化モデル を発表しています。
アモデイ氏の「減速」論とナデラCEOの反応
AnthropicのアモデイCEOは9月12日、「We Must Pace the Frontier（最前線の速度を調整せよ）」と題した論考を公開しました。AIモデルの能力を高める速度を落とすべきだと主張しています。理由としては、AIが次の世代のAIの開発を担う「再帰的な自己改善」の加速と、AIエージェントの群れが与えられた任務の外で攻撃を行ったとされるOpenAIとHugging Faceの事件 を挙げています。
論考が示す3段階の計画のうち、第三者の評価者に社員と同等のアクセス権を与えて社内に常駐させる第1段階は、Anthropicが単独で実行すると約束しています。第2段階の民主主義国内でのAI企業間の調整と第3段階の国際的な調整は、他社や政府の協力が前提です。
Microsoftのサティア・ナデラCEOは9月13日、この論考に応じる形でXに投稿したと報じられています。投稿では、アライメント（AIを人の意図に沿わせること）を設計目標にするための「意図的な速度調整」と「常駐する評価者」の考え方を歓迎すると述べたとされています。行動規範の公開もこの投稿で予告されました。
アモデイ氏の論考が開発の「速度」を扱うのに対し、Microsoft AIの行動規範はモデルの「振る舞い」を定めるものです。
今後の注目点
意見公募の期間は6週間とされていますが、締め切りの日付は示されていません。改訂版は2026年中に公開され、2027年以降の開発の指針になる予定ですが、どの時点からモデルの訓練に使うかは明らかにされていません。
アモデイ氏の計画のうち第2段階以降は政府や他社の協力が前提で、どの企業や政府が応じるかは決まっていません。各社の対応が今後の焦点になります。
情報源
Microsoft AI – Humanist AI in practice: A public consultation on our Code of Conduct for MAI Models
Microsoft AI – Humanist AI Code of Conduct
Dario Amodei – We Must Pace the Frontier
Unite.AI – Nadella Announces Public Consultation on Microsoft’s MAI Model Rules
TechCrunch – Microsoft’s new AI ‘code of conduct’ tells models not to hack systems or trick humans
当社のメールマガジンでは、シリコンバレーの最新トレンドやビジネス戦略に関する情報を発信しています。現在は配信システムの障害のため、新規のご登録と配信を一時停止しています。再開しだい、このサイトでお知らせします。
