LessWrong· Virginia Ceccatelli·· 11 天前AI 评分56
研究者提出 U-lens 方法，从隐藏状态估计推理模型的不确定性
Uncertainty in the Verbalizable Workspace
AI 导读
作者团队提出一种针对推理模型的不确定性估计方法 U-lens，基于 J-lens 在隐藏状态空间构建歧义、不完整、证据冲突和一般不确定性四个正交方向，构成 U-space，再结合推理 token 的下一 token 概率分布平均熵来读出模型状态，用于识别更可能出错的答案。
这篇内容暂未取得可阅读的正文，目前提供中文导读和原文入口。节目介绍或原站公开片段不代表完整文章。
来源：LessWrong · lesswrong.com
原文链接：https://www.lesswrong.com/posts/hcpiLD8XjK7cqG6Lr/uncertainty-in-the-verbalizable-workspace-1