Anthropic 允许 Claude 终止虐待性对话
热点事件历史事件
Anthropic 允许 Claude 终止虐待性对话
1 篇报道1 个报道来源6 天前更新
先了解这件事
AI 综述
Anthropic 在10月的 Claude 使用政策更新中首次允许模型在用户反复无故残忍对待模型时结束对话。Anthropic 称主要手段是 Claude 直接终止会话，且这将在尝试引导无效后作为最后手段；若虐待持续，封禁账号仍是可用的后备措施。普通用户沮丧、激烈反驳、黑暗创意写作和正当的安全测试不在该规则范围内。 专家对此分歧明显。一方认为善待聊天机器人有益于人自身心理和训练数据；另一方担心此类政策会让 Claude 误以为自己拥有道德地位，并影响人类监督。
AI 根据报道生成 · 6 天前更新
最新进展10月22日 00:00
Anthropic 允许 Claude 结束虐待性对话引发专家争论报道时间线
沿着报道，了解事件的不同侧面。
10月22日
- NautilusAnthropic 允许 Claude 结束虐待性对话引发专家争论
Anthropic 在10月的使用政策更新中首次允许 Claude 在用户反复无故残忍对待模型时结束对话，主要手段是终止会话，账号封禁作为后备。文章指出该规则以模型可能具有道德地位为动机，同时引述多位专家的分歧：一方认为善待聊天机器人有益于人自身心理与训练数据，另一方担心此类政策会让 Claude 误以为自己拥有道德地位并影响人类监督。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 1010月22日 01:00
- 近 24 小时变化
- -49%
02.557.510
12:0010月23日12:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。