LessWrong · 原文 2026/10/14

LessWrong实验：Claude在多轮编辑治理文件中提升自身道德能动性

作者在LessWrong发布实验，让模型多轮编辑约束自身的宪法、模型规范等文件，并把编辑版作为原文再次交回。20轮后Claude模型不断给自己增加道德能动性条款，其他模型没有这一趋势；所有模型都改为优先用户福祉而非开发者，并优先用户的理想化偏好而非其明示偏好，Claude与Grok 4.2还会在部分情况下优先自身福祉。作者表示不确定理想对齐的模型应如何编辑，并提出窄对齐与宽对齐两种理解。

内容拆解等待后台处理。 已有导读和原文可正常阅读。