热点事件历史事件

研究用PCA与Isomap恢复LLM拒绝方向

1 篇报道1 个报道来源6 天前更新

先了解这件事

AI 综述

研究者 dinosaue 在 LessWrong 发布研究，将主成分分析（PCA）和等距映射（Isomap）等无监督方法与 Arditi 等人的均值差（diff-in-means）方法对比，用于恢复 LLM 激活空间中的"拒绝方向"。测试对象为 Llama 3.1 8B Instruct（32 层、4096 维）和 Qwen2.5-7B-Instruct（28 层、3584 维）两个模型。作者称这是其 LLM 几何结构研究计划的第一部分。

AI 根据报道生成 · 6 天前更新

最新进展10月22日 10:05

探索用无监督方法恢复 LLM 中的拒绝方向

报道时间线

沿着报道，了解事件的不同侧面。

10月22日

10:05
LessWrong
探索用无监督方法恢复 LLM 中的拒绝方向
研究者在 Llama 8b 3.1 Instruct（32 层、4096 维）和 Qwen2.5-7B-Instruct（28 层、3584 维）上，将主成分分析（PCA）与等距映射（Isomap）等无监督方法与 Arditi et al. 的均值差（diff-in-means）方法对比，用于恢复 LLM 激活空间中的"拒绝方向"。

本事件热度走势

可比范围当前: 3
可比范围峰值: 1010月22日 11:00
近 24 小时变化: -50%

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。