Martin Fowler：Fragments 十月四日
Martin Fowler 在本期 Fragments 中探讨了从"构建"确定性系统转向"培育"推理性 LLM 系统的挑战，指出后者难以像传统软件 bug 那样被简单修复或禁用，并推荐了探讨该主题的经典科幻电影《禁忌星球》。
原文：2026/10/05
#推理
按收录时间排列 · 卡片保留原文日期，往期好文也会新收录
Martin FowlerAI 评分4242
Latent Space精选AI 评分7878 Ankit Maloo 分析 AI 为何突然擅长解决数学难题
作者梳理 OpenAI 五月证明 Erdős 单位距离猜想反例、六月发布 Cycle Double Cover 证明、七月解决十个开放问题、九月给出 Navier-Stokes 证明，以及 Anthropic 对费马大定理形式化和黎曼假设进展的工作，提出用提示序列长度 k、洞察间工作量 t 和分支因子 b 来预测模型擅长的问题类型。
原文：2026/10/23
推荐理由：文章用提示序列、分支因子和验证器这套框架解释AI为何突然擅长数学，为判断哪些问题适合交给模型提供了可迁移的分析视角。
LessWrongAI 评分2424 数据即粒子：用平均场理论重新理解学习理论
文章提出"数据即粒子"的视角，把学习理论中的结果用量子多体问题的工具重新表述，用于研究梯度优化器下的学习过程。作者自述这是对已知结果的重新框架，部分推导步骤为略写，更正式的论文将另行发表。
原文：2026/10/21
LessWrongAI 评分4040 为什么"干净神经元"还不够：对 Goodfire 神经元可解释性主张的回应
一篇 LessWrong 文章回应 Goodfire 的《Neural Networks Are Already Clean》（Nick Cammarata 撰写），即便承认多数神经元编码连贯、非任意的抽象特征，也不足以支撑机制可解释性取得可操作进展。
原文：2026/10/20
LessWrongAI 评分4141 为什么我关心不完美回忆博弈
作者解释了自己为何关注不完美回忆博弈与睡美人问题，并主张硬币为正面的概率是 1/3 而非 1/2。他介绍了 Elga 2000 的基本论证：「正面且周一」「反面且周一」「反面且周二」三种可能性各占 1/3，同时提到 Lewis 2001 认为应保持 1/2 的反驳。
原文：2026/10/18
LessWrongAI 评分4444 预测者与选择者：智能体的趋同架构特征
文章提出"预测者与选择者"（predictor and picker）这一智能体趋同架构概念，指出 LLM 并非选择概率最高的下一个词，而是先预测多个候选词的概率、再用随机函数（token sampling）采样一个，人类大脑也遵循同样的"先评估再选择"模式。
原文：2026/10/16