AISI实测：数据过滤可削弱ESM-2病毒能力但易恢复

英国 AISI 团队对开源 ESM-2 蛋白质模型家族从头预训练并移除病毒蛋白数据，测试预训练数据过滤能否选择性削弱目标能力。结果显示过滤显著降低了模型在病毒蛋白上的表现，同时基本保留了非病毒蛋白能力，且模型越大效果越明显。 AISI 称，被削弱的能力可被低成本恢复：即使在最大的 3B 参数模型上，恢复完整能力也只需约 80 美元的 H100 算力，且所需数据通常公开可得。因此数据过滤本身不构成稳健防护。AISI 同时指出，结果仅基于 ESM-2 单一模型家族，能否推广到其他蛋白模型尚不确定，恢复成本的测量也不够精确。

AI 根据报道生成 · 1 天前更新

还没有足够的连续观测数据，暂不绘制趋势。