LessWrong· Ben Auer·· 6 天前AI 评分31
论理想化智能体理论的"去理想化"路径
On Idealized Agency
AI 导读
文章对智能体基础研究中从 AIXI、IB、UDT 等高度理想化理论逐步"去理想化"以逼近可实现方案的路径提出质疑，认为该过程可能只保留很弱的安全保证、缺乏反馈回路，且历史上少有成功先例。作者强调去理想化本身重要，只是当前做法不适合这些理论与目标，并将在后续写作中给出改进建议。
这篇内容暂未取得可阅读的正文，目前提供中文导读和原文入口。节目介绍或原站公开片段不代表完整文章。
来源：LessWrong · lesswrong.com
原文链接：https://www.lesswrong.com/posts/L43XDWr5BgSYtKA7L/on-idealized-agency