可监控性评估与政策提案

Anthropic 一位员工在 LessWrong 上以个人身份发文，将 AI 可监控性分为四类：控制可监控性（监控能否发现灾难性破坏行为，可用 LinuxArena 等破坏性评估衡量）、训练可监控性（奖励模型与监督能否发现隐蔽的奖励作弊）、审计可监控性（对齐审计能否识别系统性错位模型），以及弥散可监控性（人类是否普遍理解模型行为）。作者称弥散可监控性目前最难评估，暂不展开。