VPD 的评估对手发现了已发布分解中的系统性缺陷

研究者对 adVersarial Parameter Decomposition（VPD）论文发布的四层、67M 参数语言模型分解进行测量，发现评估对手从 20 步起找到的忠实性缺陷会系统性迁移到对手从未见过的其他输入上，说明对手并非只利用特定输入的干扰噪声。作者还分析了训练期间使用的对手为何未能阻止系统性缺陷，并提出一项可缓解这些弱点的对抗训练流程改进建议。