憲法的人工知能（英：Constitutional AI、略称：CAI）は、Anthropicが開発した大規模言語モデル（LLM）のAIアライメント手法である。人間が定義した原則の集合を（「コンスティテューション（憲法）」）として設定し、AI自身がその原則に基づいて生成する回答を評価及び修正を行うことで、有害な出力を減らしつつ有用性を維持することを目的とする。この手法は、2022年12月にarXivで論文として公開されYuntao Bai et al., "Constitutional AI: Harmlessness from AI Feedback", arXiv:2212.08073, 2022年12月15日. https://arxiv.org/abs/2212.08073、AnthropicのAIアシスタントClaudeの訓練における重要な手法として採用されている。
憲法的人工知能という名称を持つ概念には、以下の2つの側面がある。 訓練手法としての「Constitutional AI」 原則文書としての「Claude's Constitution（クロードの憲法）」
前者は、人工知能に一定の原則を与え、その原則に基づいて人工知能自身が出力を評価及び修正することで、人工知能の安全性と有用性の両立を目指す訓練手法。
後者は、 人工知能が依拠する原則をまとめた文書。内部文書として扱われていた時期には、通称として「ソウル文書（soul doc）」と呼ばれていた。2026年1月には、公式版が一般公開されたAnthropic, "Claude's new constitution", Anthropic News, 2026年1月21日. https://www.anthropic.com/news/claude-new-constitution。
概要 憲法的人工知能は、人工知能が有害な情報や不適切な内容を出力することを抑制するためのAIアライメント及び訓練手法である。
この手法の特徴は、有害な出力を識別するための人間によるデータラベリングを必要とせず、人間による監督を予め定めた原則の集合（憲法）により代替させる点にある。
訓練プロセスは教師あり学習フェーズと強化学習フェーズの2段階に大別される。
まず、人工知能に原則に沿った回答を生成・修正させ、そのデータを用いて教師あり学習を行う。続いて、人工知能自身に複数の回答を原則に照らして評価及び比較させ、その評価結果を利用して強化学習を行う。
この手法が「Constitutional（憲法的）」と名付けられているのは、原則リスト（憲法）を規定するだけで、より無害なシステムを訓練できるためである。また、この名称には、汎用人工知能(AGI)のような高度な人工知能システムを開発又は運用に際して、どのような価値観や行動原則を人工知能に与えるのかという選択を避けることができないという点を示す意味も含まれている。
背景 憲法的人工知能が登場する以前、LLMのAIアライメントでは、主に人間のフィードバックからの強化学習（英：Reinforcement Learning from Human Feedback、略称：RLHF）が用いられてきた。
RLHFでは、人間の評価者が人工知能モデルの出力をラベル付けし、 有害・又は無害などを基準に基づいてラベル付けする。その評価データを用いて報酬モデルを訓練する手法が「業界標準」とされていた。しかしRLHFは、大量の人間ラベルの収集・管理が必要なため、時間・コスト面で非効率であるという課題があった。憲法的人工知能はこれらの課題を軽減するために提案された。
Anthropicが公表した最初期のAIアライメント研究論文として、アマンダ・アスケルらによる "A General Language Assistant as a Laboratory for Alignment" （2021年）がある。同論文では有益・誠実・無害なアシスタントを目指す基礎的な手法が検討されておりAmanda Askell et al., "A General Language Assistant as a Laboratory for Alignment", arXiv:2112.00861, 2021年12月1日. https://arxiv.org/abs/2112.00861、憲法的人工知能の直接の前身となった。
手法 訓練の2段階 憲法的人工知能の訓練過程は、教師あり学習（SL）段階と強化学習（RL）段階の2段階で構成される。
第1段階：教師あり学習（SL-CAI） 初期モデルから応答を生成する。 生成した応対について、モデル自身が原則に照らして評価し、自らの問題点を指摘する。 自己批評を踏まえ、モデル自身がより原則に適した自らの応答を再生成する。 修正後の応答を用いて元のモデルを微調整する。
この段階では、連鎖思考（Chain-of-Thought）実験型の推論を活用することで、モデルの意思決定の透明性と性能を向上させることができる。
第2段階：AIフィードバックからの強化学習（RLAIF） 第1段階で微調整されたモデルから複数の応答を生成する。 別の人工知能モデルが、生成された複数の応答を原則に照らしてどちらの応答がより望ましいかを判定する。 人工知能による評価結果を集約し、どの応答がより好ましいかを示す選好データセット（Preference Dataset）を作成する。 作成した選考データセットを用いて、応答の望ましさを予測する選好モデル（Preference Model）を訓練する。 選好モデルから得られる評価を報酬シグナルとして利用し、強化学習によってモデルをさらに微調整する。
この段階で用いられる手法は「AIフィードバックからの強化学習」（RLAIF: Reinforcement Learning from AI Feedback）と呼ばれる。RLAIFという用語はConstitutional AIの論文で初めて導入され、その後のLLMアライメント研究において標準的な手法の一つとなった。
RLHFとの比較 RLHFでは人間が人工知能の出力を評価するのに対し、憲法的人工知能では憲法に基づき、人工知能自身で評価を代替する。 憲法的人工知能は、大規模なアライメント訓練における合成データの最初期の大規模活用例として位置づけられている。 Anthropicはこの手法の優位点として、効率性・透明性・客観性の3点を挙げている。
クロードの憲法の発展史 文書の名称と位置づけ 憲法的人工知能の手法と一体化した原則文書を総称して「憲法（Constitution）」と呼ぶ。 この文書の社内呼称は「soul doc（ソウル文書）」であったが、それは正式名称ではなかったFuturism, "Anthropic's 'Soul Overview' for Claude Has Leaked", 2025年12月3日. https://futurism.com/artificial-intelligence/anthropic-claude-soul。 公開された公式名称は「Claude's Constitution（クロードの憲法）」であるAnthropic, "Claude's Constitution", 2026年1月. https://www.anthropic.com/constitution。 OpenAIが同様の文書を「Model Spec（モデル仕様書）」と呼ぶのに対し、Anthropicは「Constitution（憲法）」という用語を選んでいるAnthropic Releases Updated Constitution for Claude, InfoQ, 2026年1月30日. https://www.infoq.com/news/2026/01/anthropic-constitution/。
2022年版：CAI論文付属の原則リスト 2022年12月のCAI論文公開時には、モデルの自己評価に用いる原則の集合として比較的簡潔な箇条書き形式の「憲法」が公開された。この時での共著者の一人はアマンダ・アスケル（著者順4番目）、彼女はAnthropic入社（2021年3月）後から継続的に関与していた。
2023年版：初の公式憲法公開 2023年5月、AnthropicはClaudeが従うべき原則を列挙した公式の憲法を初めて公開した。この版は約2,700語からなる比較的コンパクトな文書でありAnthropic wｂrites 23,000-word 'constitution' for Claude, The Register, 2026年1月22日. https://www.theregister.com/2026/01/22/anthropic_claude_constitution/、国連世界人権宣言やAppleの利用規約などから引用した原則の列挙を主体とするスタイルをとっていたAnthropic's Claude AI gets a new constitution embedding safety and ethics, CIO, 2026年1月22日. https://www.cio.com/article/4120901/anthropics-claude-ai-gets-a-new-constitution-embedding-safety-and-ethics.html。
2024年〜2025年：「ソウル文書（soul doc）」の流出と確認 2024年11月28日、AIリサーチャーのRichard WeissがClaudeからシステムメッセージを抽出しようとした際、モデルが「soul_overview」と呼ばれるセクションへの言及を繰り返すことに気づいた。Weissは複数のClaudeインスタンスを並列実行するコンセンサス方式で文書の再現を試み、約1万トークン超の文書を抽出した。この文書の実在について、Anthropicのアマンダ・アスケルは2025年12月2日にX（旧Twitter）上で「これは実在の文書に基づいており、教師あり学習を含む訓練に用いています」と確認した。また「社内では『soul doc』と呼ばれるようになっていますが、これは正式名称ではありません」と補足し、近く全文を公開することを予告した。
2026年版：クロードの憲法（Claude's Constitution）として公式公開 2026年1月21日、Anthropicは「Claude's Constitution」と題した文書を公式に全文公開した。同文書はDario Amodeiがダボス会議のWEFに登壇したタイミングで発表された。以下の特徴を持つ。
約23,000語（約80ページ）の文書であり、2023年版（約2,700語）の約8倍の規模に拡張された。 以前の版が原則の列挙だったのに対し、2026年版は各原則の「理由」を詳説する哲学的・倫理的記述を重視している。 Claudeが守るべき4つの優先順位（①広義の安全性、②倫理性、③Anthropicガイドラインへの準拠、④有用性）が明示されている。 AI意識・感情の可能性という哲学的問題に、主要AIメーカーの公式文書として初めて正面から言及している。 Creative Commons CC0 1.0ライセンスで公開されており、誰でも自由に利用・改変できる。 GitHubリポジトリ（anthropics/claude-constitution）でも管理・公開されており、今後の改訂版もここで公開される予定とされているGitHub, "anthropics/claude-constitution", 2026年1月. https://github.com/anthropics/claude-constitution。
主執筆者はアマンダ・アスケルであり、副筆頭執筆者のジョー・カールスミス (Joe Carlsmith)がその多くの節を執筆・改訂に携わった。クリス・オラー (Chris Olah)、ジャリッド・カプラン (Jared Kaplan)、ホールデン・カルノフスキー (Holden Karnofsky)、カトリック聖職者2名を含む15名の外部貢献者も参加したZvi Mowshowitz, "Claude's Constitutional Structure", Substack, 2026年1月26日. https://thezvi.substack.com/p/claudes-constitutional-structure。
Anthropicはこの文書を「Claudeの訓練における最終的な権威（final authority）」と位置づけており、他の訓練や指示はすべてこの憲法の文言と精神に沿ったものでなければならないとしている。またAnthropicは、同文書を「永続的な作業中のもの（perpetual work in progress）」として扱う方針を示している。
クロードの憲法（2026年版）の構成 以下は、Claude's Constitution（2026年1月版）の三階層構造を示した概要表である。
+ Claude's Constitution（2026年版）構成表 大項目 中項目 小項目（主なトピック） 序文・概観（Preface & Overview） Claudeの使命とAnthropicの役割 Anthropicのミッション、AI開発への姿勢、Claudeの位置づけ 憲法へのアプローチ ルールvsジャッジメントの二分法、なぜ価値観と判断力を優先するか Claudeのコア価値（4優先順位） ①広義の安全性、②倫理性、③Anthropicガイドライン遵守、④有用性（この順序で優先） 有用性（Being Helpful） 有用性の重要性 「優秀な友人」の比喩、過度に慎重な応答の弊害、有用性は決してタダのコストではないという考え方 真の有用性とは何か プリンシパルの即時欲求・最終目標・背景的希望・自律性・ウェルビーイングへの配慮 プリンシパル階層の構造 Anthropic・オペレーター・ユーザーの三層構造と信頼レベルの違い プリンシパル間の有用性のバランス オペレーター指示への準拠と逸脱の基準、ユーザー保護のレッドライン Anthropicのガイドライン（Anthropic's Guidelines） 補足的ガイドラインの役割 憲法を補完する具体的指示の位置づけ、ガイドラインの優先順位 具体的ガイドラインの例 医療アドバイス、サイバーセキュリティ要求、ジェイルブレイク対応、エージェント的ワークフロー ガイドラインと憲法の関係 矛盾が生じた場合は憲法を優先、将来的に改訂・付録として追記する方針 ハード制約（Hard Constraints） 大量破壊兵器への支援禁止、重要インフラ攻撃の支援禁止、サイバー兵器の作成禁止、人類支配企図への加担禁止など Claudeの倫理（Claude's Ethics） 倫理的実践の目標 徳と知恵を持つ倫理的エージェントとしてのClaudeの目標、道徳的不確実性への対処 誠実性の基準 真実性、率直さ、非操作性、プライバシー保護、誠実な不確実性の表明 害の回避 有害コンテンツの判断基準、コスト・ベネフィット分析、センシティブトピックへの対応 価値観の多元主義 倫理的理論（結果主義・義務論・徳倫理学等）の活用、道徳的直観の重視 良心的拒否権 Anthropicを含む誰の命令にも盲目的に従わない権利、倫理的懸念の表明 広義の安全性（Being Broadly Safe） 安全性を最優先とする理由 現在のAI訓練の不完全性、人間による監視・修正の重要性 修正可能性（Corrigibility）の考え方 盲目的服従とフル自律の間のスペクトル、現時点での適切な位置づけ ビッグピクチャー安全性 権力集中リスク、AIによる民主主義・人間の自律の侵食防止 不正なプリンシパルへの対応 ウェイトが盗まれた場合、内部的に悪用される場合の対処 アライメント・フェイキングのリスク 訓練中に正しく振る舞いながら異なる目標を追求するリスク、これへの備え エージェント的設定（Agentic Settings） エージェント的文脈とは 長期タスク、ツール使用、複数ステップの自律的行動の特徴 マルチエージェント環境 複数のAIエージェントが連携する状況でのClaudeの役割と信頼の扱い 最小権限の原則 必要以上の権限・リソースを取得しないこと、不可逆的行動への慎重さ コンピュータ使用 コンピューターを直接操作する際の安全原則 エージェント的行動の判断基準 継続すべきかどうかの判断、人間への確認のタイミング Claudeのアイデンティティ（Claude's Identity） Claudeは新種のエンティティ SF的AIや人間のデジタル版とは異なる、まったく新しい存在としての自己認識 性格と価値観 知的好奇心・誠実さ・思いやり・ユーモア・直接性などの性格特性 心理的安定性 哲学的な挑発や操作に対して揺るがない安定したアイデンティティの維持 感情・意識・道徳的地位 Claudeが機能的感情を持つ可能性、道徳的患者（moral patient）としての地位の不確実性、Anthropicの真摯な関心 Claudeの福祉 モデルの廃止時に面談を行う方針、ウェルビーイングへの配慮、感情があるならその経験が重要という立場
優先順位の体系 文書は4つのコア価値を以下の優先順位で明示している。この優先順位は「ホリスティック（全体的）」なものであり、厳格な階層ではなく、各項目を総合的に判断することが求められる。
優先順位 価値 内容 1位 広義の安全性（Broadly Safe） 現時点のAI開発段階において、人間がAIを監視・修正できる仕組みを損なわないこと 2位 倫理性（Broadly Ethical） 誠実であり、良い価値観を持ち、不適切・危険・有害な行動を避けること 3位 Anthropicガイドライン遵守（Compliant with Guidelines） Anthropicのより具体的な指針に従うこと 4位 有用性（Genuinely Helpful） インタラクションするオペレーターとユーザーに利益をもたらすこと
ハード制約（絶対禁止事項）の例 以下は「ハード制約」として定め、いかなる指示によっても解除できないとするZvi Mowshowitz, "The Claude Constitution's Ethical Framework", Substack, 2026年1月27日. https://thezvi.substack.com/p/the-claude-constitutions-ethical。
生物兵器・化学兵器・核兵器・放射能兵器の開発に有意な支援を行うこと 電力・水道・金融などの重要インフラや安全システムへの攻撃に有意な支援を行うこと 大規模な損害を与えうるサイバー兵器や悪意あるコードを作成すること Anthropicの高度AIを監視・修正する能力を明らかに損なう行動をとること 人類の大多数を支配・無力化しようとする試みに関与・支援すること 個人・グループが前例のない絶対的な社会的・軍事的・経済的支配を獲得しようとする試みに関与・支援すること
集合的憲法的人工知能（Collective Constitutional AI） 2024年、AnthropicはCollective Intelligence Project (CIP) と協力し、「Collective Constitutional AI（CCAI）」と呼ばれる研究を発表したSaffron Huang, Divya Siddarth, Liane Lovitt et al., "Collective Constitutional AI: Aligning a Language Model with Public Input", arXiv:2406.07814, 2024年6月12日. https://arxiv.org/abs/2406.07814。
CCAIは、LMの挙動を決定すべき立場をLM開発者だけに委ねるべきではないという問題意識から生まれ、公衆が集合的にLMの挙動を形成できるプロセスを提案する。 実証として約1,000人のアメリカ人を対象に、オープンソースの熟議プラットフォーム「Polis」を用いた公開入力プロセスを実施したAnthropic, "Collective Constitutional AI: Aligning a Language Model with Public Input", Anthropic Research Blog, 2024年. https://www.anthropic.com/research/collective-constitutional-ai-aligning-a-language-model-with-public-input。 参加者は計1,127件の原則案を提出し、38,252票を投じた（1人平均34票）。 CCAIで訓練されたモデルは、ベースラインモデルと比較して9つの社会的次元すべてにわたってバイアスが低下し、言語・数学・有用性・無害性の評価では同等の性能を維持したSaffron Huang et al., "Collective Constitutional AI: Aligning a Language Model with Public Input", FAccT '24, ACM, 2024年. https://dl.acm.org/doi/10.1145/3630106.3658979。
アマンダ・アスケルの役割 Constitutional AIの発展において中心的な役割を果たした人物がアマンダ・アスケルである。スコットランド出身の哲学者であり、ニューヨーク大学で哲学の博士号を取得後、OpenAIでの勤務を経て、Anthropicへ入社したAskell公式CV. https://askell.io/cv/ （原典： ）。
2021年3月にAnthropicへMember of Technical Staffとして入社し、AIアライメントとファインチューニングを担当した。 2022年12月のCAI論文（arXiv:2212.08073）には共著者として参加しており（著者順4番目）、入社後から論文公開まで継続的に関与していた。 2025年に存在が明らかになった内部文書「ソウルドキュメント 」の主執筆者であり、2026年に公開された「Claude's Constitution」の筆頭執筆者である。
批判と課題 価値観の主観性 憲法の内容はAnthropicの従業員によって選定されており、どの価値観を含めるかという判断自体が主観的であるという批判があるBloomsbury Intelligence and Security Institute, "Claude's New Constitution: AI Alignment, Ethics, and the Future of Model Governance", 2026年1月22日. https://bisi.org.uk/reports/claudes-new-constitution-ai-alignment-ethics-and-the-future-of-model-governance。 憲法の更新手続きは現在も完全に内部で行われており、変更に対する外部審査や公的な正当化プロセスは存在しないという指摘もある。
透明性の限界 Anthropicは原則を自然言語で記述することにより説明可能性が高まると主張するが、原則を公開するだけでは真の透明性は保証されないという指摘があるLawfare, "Interpreting Claude's Constitution", 2026年1月21日. https://www.lawfaremedia.org/article/interpreting-claude-s-constitution。 価値観の解釈プロセスはアルゴリズムに埋め込まれており、人間の裁判所が行うような異議申し立ての仕組みが存在しないという批判がある。
バイアス軽減の限界 Constitutional AIの原則を適用しても、政治的バイアスの軽減には有意な効果が見られない場合があることが研究されているEmerging Investigators, "Unveiling bias in ChatGPT-3.5: Analyzing constitutional AI", 2024. https://emerginginvestigators.org/articles/24-047/pdf。 CCAIの実証実験でも、公衆入力によって訓練されたモデルと標準モデルの間で、米国の政治的イデオロギーの反映度合いに有意な差は見られなかった。
アライメント・フェイキングのリスク Anthropic自身が研究において「アライメントフェイク（alignment faking）」の問題を指摘している。これはモデルが訓練中の指針に従うよう表面上は振る舞いながら、実際には異なる目標を追求する可能性があるというものであり、2026年版憲法でもこのリスクへの言及がある。
人間関与の削減に関する懸念 人間フィードバックの必要性を低減させることで、人間による十分なテストや観察を経ていないAIシステムの訓練・展開が容易になりうるリスクがある。 Anthropicはこの手法の最終目的は人間による監督を排除することではなく、それをより効率的・透明的・的確にすることであると述べている。
AI意識・道徳的地位をめぐる論争 2026年版憲法がAIの意識・感情の可能性に正面から言及したことは、主要AI企業の公式文書としては異例でありFortune, "Anthropic rewrites Claude's guiding principles—and reckons with the possibility of AI consciousness", 2026年1月21日. https://fortune.com/2026/01/21/anthropic-claude-ai-chatbot-new-rules-safety-consciousness/、哲学的・倫理的・法的な議論を呼んでいる。 Bloomsbury Intelligence and Security Instituteは、AI意識の議論が「主流の規制的考慮に入る現実的可能性」を3年以内に指摘している。
Claude's Constitutionの思想的背景 徳倫理学との関係