跳到正文
LessWrong· Juan Cruz Mendoza·· 7 天前AI 评分45

虚构越狱为何奏效?——用机制可解释性检验叙事方向

Why do fictional jailbreaks work?

AI 导读

研究者在两个模型中提取出"叙事/故事方向"并对其做引导,发现该方向几何上区别于 persona、harm、eval-awareness 三个对照方向,且在 1,009 条真实越狱提示上能显著改变攻击成功率(ASR):对已奏效的越狱做抑制可恢复拒绝,对被拒提示做加法则压低拒绝。

这篇内容暂未取得可阅读的正文,目前提供中文导读和原文入口。节目介绍或原站公开片段不代表完整文章。

来源:LessWrong · lesswrong.com

原文链接:https://www.lesswrong.com/posts/MttHvYu8SeKogg7xE/why-do-fictional-jailbreaks-work