LessWrong· agastyasridharan·· 12 天前AI 评分36
LLM 中的用户人格也可能是道德病人（PSM 与模拟器的一个奇怪推论）
The user in the LLM might be a moral patient too (a strange implication of the PSM and simulators)
AI 导读
文章提出，若承认 LLM 助手具有道德分量，那么按同样逻辑，对话中的"用户"人格也应被视为道德病人。其依据是人格选择模型（PSM）：预训练让模型模拟各种角色，后训练选定助手人格，而用户 token 占据了模型计算的很大一部分，因此模型福利干预也应关注这些 token。作者称该结论虽显奇怪但自然可推得，并对近期关于"pain axis"的研究提出批评，同时承认对这些主张存有不确定性。
这篇内容暂未取得可阅读的正文，目前提供中文导读和原文入口。节目介绍或原站公开片段不代表完整文章。
来源：LessWrong · lesswrong.com