LessWrong· dinosaue·· 6 天前AI 评分38
探索用无监督方法恢复 LLM 中的拒绝方向
Exploring Unsupervised Methods for Recovering the Refusal Direction in LLMs
AI 导读
研究者在 Llama 8b 3.1 Instruct（32 层、4096 维）和 Qwen2.5-7B-Instruct（28 层、3584 维）上，将主成分分析（PCA）与等距映射（Isomap）等无监督方法与 Arditi et al. 的均值差（diff-in-means）方法对比，用于恢复 LLM 激活空间中的"拒绝方向"。
这篇内容暂未取得可阅读的正文，目前提供中文导读和原文入口。节目介绍或原站公开片段不代表完整文章。
来源：LessWrong · lesswrong.com