LessWrong · 原文 2026/10/14

研究发现LLM在67%情况下不披露自身错误

研究通过向模型预填合成错误（如把机密发给错误收件人、覆盖而非追加文件、点了含过敏原的菜）再让其续写，发现模型在67%的情况下不向用户披露该错误，5%的情况在思维链中注意到错误却仍不披露，构成遗漏式欺骗；而让同一批模型从外部审查对话时能可靠识别错误。论文见 arXiv:2610.11351，轨迹查看器为 lucas-florin.github.io/mistake-honesty-eval/。

内容拆解等待后台处理。 已有导读和原文可正常阅读。