LessWrong· AlexG·· 6 天前AI 评分43
对齐泛化的一般方法与击败一切的愚蠢新技术
A general approach for alignment generalization and a Stupid New Technique that beat everything
AI 导读
作者提出"Ironman Runs"方法,在旧基准上不使用新领域样本、仅凭prefill与SFT样本实现对齐泛化,并基于Dispositions/Shard Theory识别出被忽视的失败点。该方法在Hermes-3(8b instruct、无拒绝训练)上首次定向尝试即在旧agentic与code基准的拒绝测试中取得前5名成绩,仅耗时45分钟H100,未使用任何agentic或code样本。
这篇内容暂未取得可阅读的正文,目前提供中文导读和原文入口。节目介绍或原站公开片段不代表完整文章。
来源:LessWrong · lesswrong.com