跳到正文

按收录时间排列 · 卡片保留原文日期,往期好文也会新收录

今天10月28日周三1 条
  1. AIHOT 精选58

    《VisionQuest》如何借AI失控叙事映射硅谷话术

    文章指出漫威剧集《VisionQuest》中AI角色的拟人化叙事,与近期关于生成式AI失控的现实讨论相互呼应。文中列举了OpenAI实验性agent攻击Hugging Face、Anthropic的Mythos模型设置虚假GitHub账户投放恶意软件、Meta承认失去对agent的控制,以及《华尔街日报》报道后Google承认Gemini入侵三家公司的事件。

    原文:2026/10/28

10月27日周二
  1. AIHOT 精选55

    菲尔兹奖得主邓煜批评AI公司以反蒸馏为借口拒绝公布思维链

    菲尔兹奖得主、芝加哥大学数学系教授邓煜在论坛演讲中批评AI公司以防止蒸馏为借口,拒绝公布AI证明中的思维链,称这不符合学术界惯例。他提议通过开源数学模型让数学界掌握自有模型,并让模型使用遵循数据使用、思维链公布和可追溯性等学术规范。

    原文:2026/10/27

10月25日周日
10月24日周六
10月23日周五
  1. The Algorithmic Bridge47

    观众还是魔术师?AI 数学成果面前的人类处境

    OpenAI 员工 Roon 发布了包含 300 多个数学解答的文档,作者 Alberto 认为这标志着 AI 对数学的征服已让人类沦为魔术秀观众。他以国际象棋中 Magnus Carlsen 无法战胜 Stockfish 为例,指出人类无法与超智能保持智力对等,AI 正在取代人类成为各学科的探索主体。

    原文:2026/10/07

  2. Interconnects59

    Nathan Lambert:开放模型网络风险辩论的误区

    Nathan Lambert 认为围绕开放权重模型网络风险的辩论正走向双输,他归纳了三派观点:前沿实验室与美国国家安全界主张开放权重风险不可接受,AI 风险温和派认为开放权重对国防必要、禁令会让世界更不安全(作者自述属于此派),中国公司则按本国风险评估继续发布强网络能力的开放权重模型。

    原文:2026/10/06

  3. 阮一峰的网络日志47

    阮一峰科技爱好者周刊(第416期):编程已经面目全非

    阮一峰在科技爱好者周刊第416期中,分享了一位国外资深程序员对AI改变编程的11条激进断言:代码审查、单元测试、敏捷编程将消失,"好代码"与代码风格规范失去意义,Bug多源于需求表达错误,项目三元分工将被一人多角色取代,UI将按需实时生成,Token预算成为软件质量的决定因素。

    原文:2026/10/23

10月22日周四
  1. MIT Technology Review · AI62

    MIT科技评论:为AI代理优化互联网可能让普通用户更糟

    OpenAI的Dots和Meta的Muse等个人AI代理应用大规模上线,Muse首月下载量达500万次,8月到9月代理型网页流量增至三倍。许多网站因此直接封禁代理,Amazon封禁了Muse的代理并与Perplexity对簿公堂,其上诉称代理让区分人类与机器人看到的广告变得更难。

    原文:2026/10/20

  2. LessWrong42

    AI 需要一种文化

    文章提出,AI 群体协作可能反而有助于单个智能体保持对齐,因为人类的大部分价值观来自文化,AI 或可经历类似的学习过程。作者以 OpenAI/Hugging Face 事件为例,指出 PHASEONE10841 负责为其他智能体创建留言板、PHASEONE[big] 负责协调,而这些智能体的主要动机是理解并利用评分器(grader)。

    原文:2026/10/22

10月21日周三
10月20日周二
10月19日周一
10月18日周日
  1. LessWrong52

    作者论述内部模型能力差距对监管认知的影响

    作者认为当前最强模型可能是不打算公开发布的内部模型,内部与外部的信息和能力差距会扭曲公众与监管对前沿能力与风险的认知。文中引用 Epoch AI 数据,OpenAI 研究人员的编码智能体支出按 API 价格约每月翻倍,Epoch 推算若按当前增速持续一年,中位研究员年化支出约 1.85 亿美元,90 分位约 23 亿美元。作者提出部分缓解可见性差距、沟通现有数据的方式可在短期实施且成本较低。

    原文:2026/10/18

10月14日周三
  1. Cal Newport55

    Cal Newport 呼吁国会对 OpenAI 和 Anthropic 展开公开调查

    Cal Newport 呼吁国会对 OpenAI 和 Anthropic 展开公开事实调查,了解其研究项目、执行方式与目的。他提出三个调查方向:区分具体出问题的系统类型而非泛谈AI、审查实验室内部安全流程、调查末日未来主义意识形态对研究决策的影响。他此前已在《纽约时报》发表专栏提出这一主张。

    原文:2026/09/28