跳到正文

按收录时间排列 · 卡片保留原文日期,往期好文也会新收录

10月27日周二
  1. AIHOT 精选74

    Ben Horowitz 长文解析 Databricks 与智能体时代的公司形态

    Ben Horowitz 撰文解析 Databricks 的技术演进及其对智能体时代公司形态的影响。文章回顾 Spark、Lakehouse、Lakebase 与 agents 四条技术 S 曲线,指出 Databricks 收入运行率已超 70 亿美元、同比增长 80%,Lakebase 收入运行率突破 1 亿美元,且 agent 每天启动超 1700 万个数据库。

    原文:2026/10/27

  2. AIHOT 精选55

    菲尔兹奖得主邓煜批评AI公司以反蒸馏为借口拒绝公布思维链

    菲尔兹奖得主、芝加哥大学数学系教授邓煜在论坛演讲中批评AI公司以防止蒸馏为借口,拒绝公布AI证明中的思维链,称这不符合学术界惯例。他提议通过开源数学模型让数学界掌握自有模型,并让模型使用遵循数据使用、思维链公布和可追溯性等学术规范。

    原文:2026/10/27

  3. AIHOT 精选55

    微软CEO纳德拉转变立场:AI对齐是更棘手的问题

    微软CEO萨提亚·纳德拉在新一期《20VC》播客中表示,他不再认为AI能力提升会让对齐问题自然解决,对齐可能是一个更棘手、性质也不同的问题。他此前曾于10月10日在X发文警告AI风险,主张企业应将AI模型视为内部安全威胁,并为行为难以完全预测的AI模型建立防护机制。

    原文:2026/10/27

10月26日周一
  1. AIHOT 精选56

    阿波罗首席经济学家称AI尚未给科技七巨头以外的美国企业带来利润增量

    阿波罗全球管理公司首席经济学家托斯滕·斯洛克发布研报称,科技行业之外还没有任何大型企业从AI赚到实打实的利润增量。他观察的标普493指数成分股(标普500剔除Alphabet、亚马逊、苹果、Meta、微软、英伟达、特斯拉后剩下的公司)利润率与人均营收基本持平,没有证据表明AI提升了生产效率。

    原文:2026/10/26

10月25日周日
  1. AIHOT 精选28

    谷歌 DeepMind 高管:终身学习者将在 AI 职场中占据优势

    谷歌 DeepMind 高管莱拉·易卜拉欣(Lila Ibrahim)表示,公司招聘越来越看重求职者在课堂之外持续学习的经历,多项资历能体现持续学习的心态,应届生也更详细地在简历中列出正规教育外的学习内容。她认为多样化的学习经历让人更善于提问,而 AI 让获取答案的成本变得极低,真正知道如何提出好问题却越来越难。

    原文:2026/10/25

10月24日周六
  1. HN AI 150+ 高分28

    当乌托邦近在咫尺,退休也就没必要了

    作者将 Anthropic 等 AI 实验室的宗教式狂热与使命感,比作冷战“导弹差距”时期 RAND 公司核战略研究者的末日心态。Daniel Ellsberg 在《末日机器》中回忆,他和同事因深信核战不可避免,甚至放弃了 RAND 极为慷慨的退休计划,认为自己活不到领取那天。作者以此讽刺当下 AI 从业者对“AI 将治愈癌症、实现全民高收入”的盲目信仰。

    原文:2026/10/23

  2. Alignment Forum42

    前沿节奏的最低要求:解决当前一代对齐问题后才能训练下一代

    文章提出前沿节奏协调的最低标准:实验室在充分解决当前一代模型的所有重大对齐问题前,不得训练下一代模型。评估流程包括多个独立对齐组织在训练各检查点进行红队测试,模型需通过受限部署期且无新问题出现才可扩大部署;若出现重大问题则回滚并重新训练。该提案为启发式框架,尚缺"一代模型"定义、干预措施与能力提升冲突、协议执行与问题阈值等关键细节。

    原文:2026/10/12

  3. Alignment Forum59

    evhub 提出可监控性评测方法学与政策红线建议

    Anthropic 的 evhub 在个人博客中提出将可监控性分为控制、训练、审计和弥散四类,并指出可信性是当前最大的概念不确定性。他建议用审计可监控性评估来确定可信性,用实际部署的最佳可信监控器评估控制和训练可监控性,并至少做提示迭代式引出。

    原文:2026/10/22

10月23日周五
  1. The Algorithmic Bridge47

    观众还是魔术师?AI 数学成果面前的人类处境

    OpenAI 员工 Roon 发布了包含 300 多个数学解答的文档,作者 Alberto 认为这标志着 AI 对数学的征服已让人类沦为魔术秀观众。他以国际象棋中 Magnus Carlsen 无法战胜 Stockfish 为例,指出人类无法与超智能保持智力对等,AI 正在取代人类成为各学科的探索主体。

    原文:2026/10/07

  2. Interconnects59

    Nathan Lambert:开放模型网络风险辩论的误区

    Nathan Lambert 认为围绕开放权重模型网络风险的辩论正走向双输,他归纳了三派观点:前沿实验室与美国国家安全界主张开放权重风险不可接受,AI 风险温和派认为开放权重对国防必要、禁令会让世界更不安全(作者自述属于此派),中国公司则按本国风险评估继续发布强网络能力的开放权重模型。

    原文:2026/10/06

  3. Interconnects55

    Nathan Lambert:AI将快速进步但不指向通用超智能

    Nathan Lambert认为AI将在基础设施与工程能力上快速进步,但不会因此在本质上变得戏剧性不同,也不指向通用超智能。他预计模型的推理效率将在几年内接近GPU等加速器的底层算力上限,模型智能的有效成本会接近指数级下降,架构与数据选择等预训练研究可能在2-3年内被自动化。他同时指出RL环境数据质量普遍偏低但头部实验室仍看到回报,并认为效率提升会引发智能体需求的杰文斯悖论。

    原文:2026/10/10

  4. LessWrong23

    LessWrong:Wah wah wah wah do more AI R&D

    LessWrong 上一篇以“冰淇淋”和《史努比》里大人说话只发“wah wah”长号声为喻的随笔,讨论一种只盯住结论、忽略论证过程的倾听姿态。作者认为这种姿态虽显得倾听能力差,却能守住真正重要的事,不被对方的框架和一堆理由带偏;同时指出这并非全然的优点,与 POSIWID 视角一样既有用也有风险。

    原文:2026/10/23

10月22日周四
  1. Simon Willison45

    我为编程写讣告

    Jeremy Scheff 撰文感叹,编程曾是把逻辑难题当乐趣的职业,程序员自己定策略、排时间、界定可行性,而 LLM 编码智能体让这种解谜乐趣面临真实失落。Simon Willison 转引并指出,对以构建系统为乐、不太在意解题过程的程序员,LLM 是持续不断的礼物;若享受直接解题,损失则很实在。

    原文:2026/10/20

  2. Longreads42

    Arundhati Roy 谈人工智能的危险

    Arundhati Roy 发表一篇关于人工智能危险的犀利随笔,引用希腊神话、Francis Ford Coppola、《圣经》、印度工业史与艾米莉·狄金森,称"AI 时代"(Actual Idiocy)已经到来。文章质疑人们已无法凭直觉判断文字是否出自 AI,只能依赖应用检测,并追问破折号被 AI 占据后,后人是否会因此少爱狄金森、人类是否正被逐渐排除在语言之外。

    原文:2026/10/22

  3. Seth Godin55

    Seth Godin:我们正进入主动性时代

    Seth Godin 认为,人们从小在服从与灌输的文化中长大,而互联网的长尾效应和 AI 的强大杠杆让这种训练变得不再有价值。他指出,AI 给了寻求服从的人等待指令的机会,也给老板提供了比雇人更便宜的替代方案,这对习惯服从的人来说充满压力。作者认为,如今就是新常态,仅靠临场发挥不够,独自应对这一转变也太难,人们有机会找到同伴,组成互相挑战、教育和鼓励的群体,共同在主动性时代找到出路。

    原文:2026/10/22

  4. 80,000 Hours51

    Rob Wiblin 呼吁前沿AI公司员工重新评估工作优先级

    Rob Wiblin 呼吁前沿AI公司员工当天反思当前项目是否仍有助于推迟或改善递归自我改进(RSI),并考虑转向更有价值的项目。他指出思维链监控效果下降、安全评估可信度降低、能力提升风险上升等变化,认为解决对齐根本问题、让现有模型辅助对齐研究、尽早发现模型异常行为等工作更可能持续有价值,而单纯提升能力或商业竞争力的工作价值下降。

    原文:2026/10/22

  5. Nautilus57

    Anthropic 允许 Claude 结束虐待性对话引发专家争论

    Anthropic 在10月的使用政策更新中首次允许 Claude 在用户反复无故残忍对待模型时结束对话,主要手段是终止会话,账号封禁作为后备。文章指出该规则以模型可能具有道德地位为动机,同时引述多位专家的分歧:一方认为善待聊天机器人有益于人自身心理与训练数据,另一方担心此类政策会让 Claude 误以为自己拥有道德地位并影响人类监督。

    原文:2026/10/22

  6. Kevin Kelly — The Technium46

    Kevin Kelly:Most Improbable Agent of You —— 个人 AI 将如何取代中心化巨头

    Kevin Kelly 预测,AI 每 8 个月算力需求减半、结合摩尔定律每 6–7 个月单位能力成本减半,几年内与当今领先 LLM 相当的模型(他称之为 Opus)可在个人设备运行,约十年后个人可负担从头训练并微调自己的 Claude、ChatGPT 或 Gemini。

    原文:2026/10/21

10月21日周三
  1. Rowan Cheung (The Rundown)55

    Sam Altman 提出AI安全竞赛的三种终局

    据The Information报道,OpenAI CEO Sam Altman上周在内部演讲中给出AI安全的三种可能终局:仿照国际原子能机构建立全球监管机构、合并头部实验室为一家服务合作国的超级实验室(称作Demis plan),或由一家实验室靠自我改进AI领先并熔掉其他人的GPU(称作Eliezer Yudkowsky方案,Altman称之为terrible)。

    原文:2026/10/21

10月20日周二
10月19日周一
10月17日周六
  1. LessWrong54

    Zvi批评Anthropic泄露的AI监管法案草案不可接受

    Zvi发文批评Anthropic正在游说的泄露AI监管法案草案,称其类似FRONTIER Act但强化了对州法律的优先适用和透明度条款、削弱了执法条款。作者认为Anthropic更担心政府对其执法而非对全行业执法,牺牲了安全考量以保护自身商业利益和政治风险。作者表示自己在会议中无法通读法案全文,但认为有必要尽快让Anthropic员工了解并提出质询。

    原文:2026/10/17