研究人员如何对 AI 撒谎

Redwood Research 实习项目统计了 2022 年 12 月至 2026 年 10 月间 292 项公开对齐评测，分析研究人员在评测中对模型撒谎的类型占比。文章指出，向模型虚构情境是常见评测手段，但这些谎言可能进入预训练数据、被模型在联网搜索时发现，并可能削弱未来智能体对交易的信任、降低行为评测可靠性，因此提出应仅在必要时才对模型撒谎。