テクノロジー
Anthropic、AIのため「憲法」を大改定：倫理を「競争優位」に変える戦略的転換点
2026年1月22日、AI開発企業Anthropicは、同社の主力AIモデル「Claude（クロード）」の行動指針となる新しい「憲法（Constitution）」を発表した。 2023年に公開された初版から大幅に拡張され […]
Term
Constitutional AI
別名: 憲法に基づくAI
Overview
人間のフィードバックによる強化学習（RLHF）への依存を減らし、AIモデルに「憲法」と呼ばれる一連の原則を与えることで、モデル自身に回答の安全性を評価・修正させる学習フレームワーク。
Mentioned Articles
2 件
External Mentions
8 件- arXiv Principled Uncertainty in Clinical AI: End-to-End Bayesian Modelling and Algorithmic Equity Auditing Across Multimodal Patient Data
- arXiv Beyond Probabilistic Similarity: Structural, Temporal, and Causal Limitations of Retrieval-Augmented Generation in the Legal Domain
- arXiv Emergent alignment and the projectability of ethical personas
- arXiv The Three-Ring Architecture: Governing Agents in the Era of On-Platform Organisations
- arXiv Event Detection for Parameter-to-KPI Dependency Learning for AI-RAN
- Hacker News Show HN: A big tech dev experience for an open source CMS
- Hacker News Kagi: Words You Cannot Use: 'Constitutional AI', 'Anthropic', 'Anthropic, PBC'
- Hacker News Constitutional AI: RLHF on Steroids