LessWrong· Taiga Someya·· 9 天前AI 评分42
被训练躲避话题探测器的模型难以回答相关话题的问题
Models Trained to Evade Topic Probes Struggle to Answer Questions about Those Topics
AI 导读
Redwood Research 通过 MATS 11.0 实习项目测试发现，被训练躲避话题探测器的"神经变色龙"模型虽能隐藏探测器所查概念，但在相关话题上的答题能力大幅下降，且更大模型（最高 31B）、双倍训练数据或未被消融的模型都呈现同样模式。
这篇内容暂未取得可阅读的正文，目前提供中文导读和原文入口。节目介绍或原站公开片段不代表完整文章。
来源：LessWrong · lesswrong.com