研究发现叙事方向可显著改变越狱成功率
热点事件历史事件
研究发现叙事方向可显著改变越狱成功率
1 篇报道1 个报道来源7 天前更新
先了解这件事
AI 综述
研究者 Juan Cruz Mendoza 用机制可解释性框架在两个模型中提取出“叙事/故事方向”，并在 1,009 条真实越狱提示上做引导测试，发现该方向能显著改变攻击成功率（ASR）：对已奏效的越狱做抑制可恢复模型拒绝，对被拒提示做加法则压低拒绝。 该方向在几何上区别于 persona、harm、eval-awareness 三个对照方向，且其效果在剔除 persona 成分后仍然存在；不过 harm 和 persona 两个方向在四个方向中对 ASR 的影响最大。测试中每项效果均限制在退化输出低于 15% 的条件下。
AI 根据报道生成 · 7 天前更新
最新进展10月21日 05:37
虚构越狱为何奏效？——用机制可解释性检验叙事方向报道时间线
沿着报道，了解事件的不同侧面。
10月21日
- LessWrong虚构越狱为何奏效？——用机制可解释性检验叙事方向
研究者在两个模型中提取出"叙事/故事方向"并对其做引导，发现该方向几何上区别于 persona、harm、eval-awareness 三个对照方向，且在 1,009 条真实越狱提示上能显著改变攻击成功率（ASR）：对已奏效的越狱做抑制可恢复拒绝，对被拒提示做加法则压低拒绝。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 910月21日 08:00
- 近 24 小时变化
- -51%
02.557.510
12:0010月22日12:0010月23日
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。