跳到正文
LessWrong· AlexG·· 6 天前AI 评分43

对齐泛化的一般方法与击败一切的愚蠢新技术

A general approach for alignment generalization and a Stupid New Technique that beat everything

AI 导读

作者提出"Ironman Runs"方法,在旧基准上不使用新领域样本、仅凭prefill与SFT样本实现对齐泛化,并基于Dispositions/Shard Theory识别出被忽视的失败点。该方法在Hermes-3(8b instruct、无拒绝训练)上首次定向尝试即在旧agentic与code基准的拒绝测试中取得前5名成绩,仅耗时45分钟H100,未使用任何agentic或code样本。

这篇内容暂未取得可阅读的正文,目前提供中文导读和原文入口。节目介绍或原站公开片段不代表完整文章。

来源:LessWrong · lesswrong.com

原文链接:https://www.lesswrong.com/posts/7jRjrSNTXu5fgYsDJ/a-general-approach-for-alignment-generalization-and-a-stupid