跳到正文
LessWrong· BarAltiva·· 11 天前AI 评分45

Screwtape:针对行动监控器的对抗性转录编辑红队测试管线

Screwtape: Adversarial Transcript Editing for Monitor Red-Teaming

AI 导读

Redwood 推出 Screwtape 管线,通过在智能体转录中插入并反复优化攻击,绕过只看行动、不看思维链的监控器。在 94 条转录上运行 252 次后产出 35 个可绕过其基于 Opus 4.8 和 Gemini 3.1 Pro 的监控器的攻击,其中 6 个也绕过了某前沿开发者的留出监控器并经人工确认有效。管线以威胁合同约束攻击,由 LLM 验证器检查攻击的真实性与危害性。

这篇内容暂未取得可阅读的正文,目前提供中文导读和原文入口。节目介绍或原站公开片段不代表完整文章。

来源:LessWrong · lesswrong.com

原文链接:https://www.lesswrong.com/posts/Z8jjgjfpAJocqZiET/screwtape-adversarial-transcript-editing-for-monitor-red