Anthropic 發布 80 頁《Claude 憲法》，升級 AI 對齊框架

PANews 1月23日報導，AI大模型公司Anthropic近日公開新版《Claude憲法》並以知識共享 CC0 1.0 授權開放，作為訓練「最高權威」，用於生成合成訓練數據與排名反饋；從「列原則」改為解釋「為何如此」，以提升對新情境的泛化能力。文件依廣泛安全>廣泛倫理>遵循指引>真誠協助排序，列出「硬性約束」（如不提供生物武器實質協助），並加入美德、心理安全與模型自我認知等章節，強調透明與持續迭代。