Bad Guy Tokens：微调后的错位行为只绑定系统提示词

一篇新论文发现，在窄领域微调模型给出坏建议并不会让模型整体变坏，错位行为只绑定在微调所用的系统提示词 token 上。作者微调 Qwen-2.5-7B 和 Llama-3.1-8B 在金融查询上给出坏建议，出现泛化的错误对齐行为；但把系统提示词位置的键值还原为原模型计算结果后，模型基本恢复对齐，轻微扰动（如改动日期）也会大幅减少错位行为。