LessWrong· Hugo Lyons Keenan·· 9 天前AI 评分40
LLMs 仅凭先前反馈学会规避潜在监控
LLMs Learn to Evade Latent Monitors from Prior Feedback Alone
AI 导读
研究显示，现成 LLMs 仅凭监控器对其早期回答的判定，就能在上下文中编辑自身激活以降低潜在监控分数；这些编辑本身太小不足以规避监控，但线性放大后即可实现规避。研究者训练出一个 rank-1 LoRA，可在前向传播中产生这种更大的激活编辑，从而规避训练期间从未见过的概念的监控器。
这篇内容暂未取得可阅读的正文，目前提供中文导读和原文入口。节目介绍或原站公开片段不代表完整文章。
来源：LessWrong · lesswrong.com