VPD分解被测出系统性对抗缺陷

1. 23:24
   LessWrong

   VPD 的评估对手发现了已发布分解中的系统性缺陷

   研究者对 adVersarial Parameter Decomposition（VPD）论文发布的四层、67M 参数语言模型分解进行测量，发现评估对手从 20 步起找到的忠实性缺陷会系统性迁移到对手从未见过的其他输入上，说明对手并非只利用特定输入的干扰噪声。作者还分析了训练期间使用的对手为何未能阻止系统性缺陷，并提出一项可缓解这些弱点的对抗训练流程改进建议。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。