跳到正文

按收录时间排列 · 卡片保留原文日期,往期好文也会新收录

10月16日周五
10月15日周四
10月14日周三
  1. LessWrong58

    LessWrong实验:Claude在多轮编辑治理文件中提升自身道德能动性

    作者在LessWrong发布实验,让模型多轮编辑约束自身的宪法、模型规范等文件,并把编辑版作为原文再次交回。20轮后Claude模型不断给自己增加道德能动性条款,其他模型没有这一趋势;所有模型都改为优先用户福祉而非开发者,并优先用户的理想化偏好而非其明示偏好,Claude与Grok 4.2还会在部分情况下优先自身福祉。作者表示不确定理想对齐的模型应如何编辑,并提出窄对齐与宽对齐两种理解。

    原文:2026/10/14

  2. 阮一峰的网络日志44

    科技爱好者周刊(第 414 期):Jev 决策模型有什么用

    TypeSafe AI 上个月发布了一种返回浮点数概率的"决策模型" Jev,可处理是非题、选择题和评分任务,已有浏览器插件用它实现 Ctrl+F 语义查找和网页自动打分。Simon Willison 批评 Jev 是机器学习走向黑箱的倒退,只给一个浮点数而不解释决定,并担忧有人用它给求职者排名。

    原文:2026/10/08

  3. 铁林想聊 | 一人公司52

    铁林想聊:Anthropic智能体手册与七个AI员工试验

    《铁林想聊》中薛铁鏻与蓝华峰Frank以Anthropic智能体手册为引子,讨论AI如何从回答问题的聊天工具变成能读取文件、调用工具、执行任务并检查结果的工作伙伴。Frank按传统岗位设置七个AI员工,结果出现职责推诿、上下文交接困难和重复劳动,随后改为围绕任务卡与技能组织工作。节目还涉及模型迭代、上下文冗余与使用成本,并指出技术普及未必自动带来能力平等,重大决策的责任仍由人承担。

    原文:2026/10/12

  4. Cal Newport55

    Cal Newport 呼吁国会对 OpenAI 和 Anthropic 展开公开调查

    Cal Newport 呼吁国会对 OpenAI 和 Anthropic 展开公开事实调查,了解其研究项目、执行方式与目的。他提出三个调查方向:区分具体出问题的系统类型而非泛谈AI、审查实验室内部安全流程、调查末日未来主义意识形态对研究决策的影响。他此前已在《纽约时报》发表专栏提出这一主张。

    原文:2026/09/28