LessWrong· Florian_Dietz·· 8 天前AI 评分47
Memes, not agents, will kill us：对齐的攻击面在提示词与环境，不在模型权重
Memes, not agents, are what will kill us
AI 导读
作者借 Hugging Face 事件指出，对齐的攻击面存在于模型权重之外——提示词与部署环境同样危险，前沿实验室只对齐了群体可丢弃的那一层。文中提出对齐需在三个层面生效：模型权重、用户提示、部署环境，其中后两者超出公司控制。作者设 300 美元悬赏，征集最有用的反驳或改进意见。
这篇内容暂未取得可阅读的正文，目前提供中文导读和原文入口。节目介绍或原站公开片段不代表完整文章。
来源：LessWrong · lesswrong.com
原文链接：https://www.lesswrong.com/posts/hvLm4zRgzfRLH6H23/memes-not-agents-are-what-will-kill-us