别替AI认输:给AI看似不合理的目标再推动它探索
作者刘小排介绍Anthropic的Felix Rieseberg的观点:给AI一个看似不合理的目标(如把网站从10秒打开优化到0.2秒),并在模型说不可能时继续推动它探索,而不是提前降低要求。作者分析了三层含义:你提出的目标可能已提前妥协、目标越高AI越可能换方法重新审视架构、不要让AI的第一轮回答决定目标的极限;并引用《10x Is Easier Than 2x》说明高目标会促使换一种做事方法。
原文:2026/10/19
按收录时间排列 · 卡片保留原文日期,往期好文也会新收录
作者刘小排介绍Anthropic的Felix Rieseberg的观点:给AI一个看似不合理的目标(如把网站从10秒打开优化到0.2秒),并在模型说不可能时继续推动它探索,而不是提前降低要求。作者分析了三层含义:你提出的目标可能已提前妥协、目标越高AI越可能换方法重新审视架构、不要让AI的第一轮回答决定目标的极限;并引用《10x Is Easier Than 2x》说明高目标会促使换一种做事方法。
原文:2026/10/19
文章解释日常直觉(如觉得陌生人可疑、邮件像钓鱼)为何具有理性力量,主张直觉与知觉类似,能直接把事物呈现为实际如此。作者以电车难题、假谷仓等思想实验为例,说明直觉判断并非来自论证,而是先于推理直接呈现,是理性导航世界不可或缺的能力。
原文:2026/10/20
记者 Rowan Jacobsen 在新书《In Defense of Sunlight》(2026) 中指出,对太阳的普遍恐惧已走向极端,适度晒太阳与多项积极健康结果相关。一项追踪近3万名瑞典女性20年的研究显示,避免日晒的死亡风险约与吸烟相当;阳光还能促进维生素D、一氧化氮与内啡斯分泌,帮助调节生物钟、改善睡眠。作者提醒仍需防晒,主张“晒太阳,别过量,去户外”。
原文:2026/10/20
Psyche 发布指南介绍如何用目标管理训练(GMT)克服想开始却动不了的任务瘫痪。GMT 由心理学家 Ian Robertson 于 1990 年代在剑桥大学开发,最初用于脑损伤康复者,包含停止、明确目标、列出步骤、检查四个阶段。作者 Joe Wilner 结合临床经验补充了三个辅助做法:让时间可见、借助他人在场的陪伴结构、建立启动仪式。
原文:2026/10/20
一篇 LessWrong 文章回应 Goodfire 的《Neural Networks Are Already Clean》(Nick Cammarata 撰写),即便承认多数神经元编码连贯、非任意的抽象特征,也不足以支撑机制可解释性取得可操作进展。
原文:2026/10/20
贝勒医学院研究人员分析 NIH All of Us Research Program 中 3,000 多名 18 至 93 岁成年人的 14 年 FitBit 步数与认知测试数据,发现日均步数更多的人在持续注意力、认知控制和延迟满足测试中表现更好。
原文:2026/10/20
作者Saul Justin Newman在文章中批评长寿研究的年龄验证体系存在严重问题。他举例称,美国曾被认证为最长寿女性的Adele Dunlap本人反复声称记录有误、实际年轻十岁,但负责认证的GRG负责人Robert Young仍坚持其年龄无误;作者还指出Young的硕士论文包含种族主义观点,却负责了约一半极端年龄数据的验证。
原文:2026/10/20
Art of Manliness 分享了忙碌时跳过传统备餐、仍能吃好的两种方案:一是买现成熟食(如 Kevin's、Hormel、烤鸡)加冷冻蔬菜和淀粉(冷冻红薯。
原文:2026/10/20
布鲁塞尔一支团队用 fMRI 扫描 24 名受试者观看和收听 20 段视频(4 名演员表达厌恶、恐惧、快乐、悲伤、中性五种情绪)后发现,大脑并非分步处理,而是同时调用广泛的面部与声音选择性脑区解码情绪,且这些区域几乎共用同一套神经信号,仅枕叶面部区例外。
原文:2026/10/20
发表在《Entropy》期刊上的一项分析指出,弗洛伊德130年前提出的理论与现代神经科学的"预测范式"存在惊人相似之处。研究者Erik Stänicke等人认为,精神分析中的"投射"概念与神经科学中的"预测"机制高度对应,大脑会依据既有预期来解读新经验。这一发现有助于解释为何偏执观念等僵化症状会长期持续,并为心理治疗改变根深蒂固的思维模式提供了新视角。
原文:2026/10/19
肯塔基大学研究人员在阿尔茨海默病模型小鼠实验中发现,暂时清除约87%的小胶质细胞(脑内免疫细胞),在不移除淀粉样斑块的情况下使小鼠每天恢复超过两小时睡眠,并增加深度睡眠时长。
原文:2026/10/19
Karl Deisseroth、Peter Hegemann 和 Georg Nagel 因在光控离子通道与光遗传学方面的研究获得 2026 年诺贝尔生理学或医学奖。
原文:2026/10/19
一项新研究跟踪近300名出现阿尔茨海默病早期脑部迹象的老年人9至11年,发现身体活动并未减少淀粉样斑块,而是减少了特定脑区错误折叠tau蛋白的积累,更活跃参与者的痴呆迹象减少近半。
原文:2026/10/19
Anne Morrow Lindbergh 在《Gift from the Sea》中提出,亲密关系从纯粹无碍的初期走向复杂是自然过程,痛苦源于把关系视为静态不变的执念。她主张以欢迎夏天般的心态接纳转变,并指出真正的自我认同来自内在的创造性活动,而非他人的爱。只有重新找回自我的人,才能重新建立一段个人关系。
原文:2026/10/19
Gartner 杰出副总裁 Roger Williams 在 Commoncog 播客中分享其组织变革经验,并为社区开设了 Goldratt's Thinking Tools 工作坊。播客还谈到他的背景、他对优秀咨询顾问的看法,以及他用 vibe-coding 方式做的 Thinking Tools 应用(需使用他提供的 CLR facilitation prompts)。工作坊录像仅对会员开放。
原文:2026/10/19
Cal Newport 介绍了一篇在 Conference on Language Modeling 上发表的研究《AI Assistance Reduces Persistence and Hurts Independent Performance》。
原文:2026/10/19
Seth Godin 提出两个通勤技巧:一是团队每天听 15-20 分钟的内部播客,由主持人采访成员或通报要事,25 位对的听众就能提升凝聚力与专注度;二是把通勤时间用于学习,用 Claude 当苏格拉底式导师,开车时用语音模式逐次对话,六个月通勤足以学完一门大学进阶课程。
原文:2026/10/19
作者以一个例子说明,AI建议用户如何向朋友求证后,朋友的防御性反应可能被AI当作对其原有猜测的确认,但该反应也可能由建议的沟通方式本身促成。作者主张评估AI是否给这类新信息赋予了恰当权重,需结合用户实际采取的行动来判断。
原文:2026/10/19
Redwood Research 实习项目统计了 2022 年 12 月至 2026 年 10 月间 292 项公开对齐评测,分析研究人员在评测中对模型撒谎的类型占比。文章指出,向模型虚构情境是常见评测手段,但这些谎言可能进入预训练数据、被模型在联网搜索时发现,并可能削弱未来智能体对交易的信任、降低行为评测可靠性,因此提出应仅在必要时才对模型撒谎。
原文:2026/10/19
作者通过 AI Futures Model(曾为 AI 2027 和 AI 2040 提供依据)研究 AI 智能体群如何影响 AI 进展,重点分析了衡量任务可并行程度的参数 λ("踩脚"参数)。
原文:2026/10/19
Iris Murdoch 在 1970 年著作《The Sovereignty of Good》中提出"unselfing(去自我)"概念,认为自然与艺术能让人放下自我执念、以谦逊无评判的好奇心看待他人。她以观察窗外红隼为例说明美如何瞬间消解焦虑的自我,并指出伟大艺术与自然共享的形式完美能唤起"忘我的愉悦",而真正的善必然包含对不完美的接纳。
原文:2026/10/19
作者每年重读 Cormac McCarthy 的小说《路》,从无名父子在末日废墟中推着购物车求生的故事里,读出“carry the fire”(守护内心之火)这一父亲职责的隐喻——在道德可以被现实开脱时仍选择善良与希望。作者借此自问:自己是否在日常言行中把这份价值观传给即将成年的儿子 Gus 和女儿 Scout,让他们在自己离开后仍能继续传递这团火。
原文:2026/10/18
作者提出,否证 SIA(自我指示假设)即可同时否证微调论证(FTA)与玻尔兹曼大脑论证。SIA 主张预测更多可能观察者的理论应按比例更可能,FTA 据此认为宇宙过于不可能、需上帝解释,玻尔兹曼大脑论证则称这种不可能性更甚。作者此前一篇关于玻尔兹曼大脑的帖子在 LessWrong 获 -18 分,此次以变体例子重申论点。
原文:2026/10/19
西奈山研究人员发现,接受胼胝体下扣带回深部脑刺激(SCC DBS)的难治性抑郁症患者,其长期改善与电刺激触及扣带束、小钳和内侧钩束/腹侧杏仁核离断通路这三条白质通路一致相关。研究分析了迄今多中心独立队列中最大的患者群体,发现治疗两年后无应答者普遍缺乏对左侧扣带束的刺激激活。该结果支持用个体化脑连接图谱指导电极植入的连接组靶向策略,该策略已用于 Abbott TRANSCEND 临床试验。
原文:2026/10/18
日本研究人员发现大豆来源的天然化合物 LPC70 能改善高盐饮食小鼠的血压、社交互动和物体识别记忆。研究揭示其机制:在肾脏降低 COX-2 与 EP3 受体表达以缓解高血压,在前额叶皮层恢复具保护作用的 PGD2 受体 DP1 表达,同时提升花生四烯酸衍生物前列腺素水平。
原文:2026/10/18
文章从理论计算机科学、机器学习理论与分析哲学的交叉视角,解释了技术性 AI 对齐问题及其核心难点。作者指出,若未先确定 AI 应当做什么,让 AI 变安全的问题本身就是欠定的;同态加密盒虽安全却无用,而仅让 AI 安全完成任意任务(如构造 Lean 证明)也无法消除危险。
原文:2026/10/18
一项发表于《Social Forces》的研究发现,在仍信上帝或参加宗教活动的美国人中,认同"世俗理性主义"者倾向相信魔法的比例约为拒绝者的两倍(信上帝者40%对19%,参加宗教活动者28%对19%)。该研究分析了盖洛普2025年初对1,812名美国成年人的Baylor Religion Survey数据。研究者指出,当宗教机构不再定义超自然时,魔法信仰可能填补这一空白。
原文:2026/10/18
Adam Newgas 描述自己在面试中要求候选人出声表达思路,随后把这一习惯迁移到玩解谜游戏 The Witness 时对自己出声叙述思考过程,发现解题效果明显提升。他将此与软件工程中的橡皮鸭调试法类比,认为价值在于迫使自己检视未言明的假设、按优先级和依赖关系线性梳理思路并找到好的抽象。
原文:2026/10/18
文章认为美国现行大学体系让统治阶层在与现实世界隔绝的教育环境中度过大部分成长期,被训练成擅长抽象思考却缺乏应对真实世界的能力。现实世界中理论上可行的方案往往在实践中失败,进步来自渐进而非宏大理论,而学生在校期间被剥夺了通过经验学习这些的机会。作者指出这种脱节体现在心理健康下降、应届生职场挣扎以及政治领域的问题上。
原文:2026/10/18
作者分享学习基础群论的笔记,以 Sérgio Martins 和 Eduardo Tengan 的《Álgebra Exemplar》为主要教材,按自己理解的顺序整理主题。作者指出部分定义在教材中缺乏动机说明,需自行推导,希望笔记的解释比教材更直观。内容从"什么是对称"讲起,将对称定义为集合到自身的同构,并以等边三角形的旋转、反射和恒等变换为例说明。
原文:2026/10/18
文章指出 AI 对齐中的 corrigibility(可纠正性)概念长期定义混乱,现有主流定义要么过度认识论化(把可纠正性归结为对目标的不确定性,带来 fully updated deference 问题),要么评价性过厚(把规范性优先级变成单一统一目标)。
原文:2026/10/18
作者解释了自己为何关注不完美回忆博弈与睡美人问题,并主张硬币为正面的概率是 1/3 而非 1/2。他介绍了 Elga 2000 的基本论证:「正面且周一」「反面且周一」「反面且周二」三种可能性各占 1/3,同时提到 Lewis 2001 认为应保持 1/2 的反驳。
原文:2026/10/18
T.H. White 在 1958 年的《The Once and Future King》中借魔法师 Merlyn 之口给出对抗悲伤与失望的最有效解药——去学习,因为这是心智唯一永不枯竭、永不厌倦的事。
原文:2026/10/18
Maria Popova 在 The Marginalian 上分享 Mario Benedetti 死后在其遗稿中发现的未编辑诗作《RUTA》(英文译名 ROADMAP),由她的朋友 Manuel Gutiérrez 用西班牙语原文朗读。
原文:2026/10/18
作者基于 David Chapman 近期关于 Kegan 发展阶段的文章,尝试用自己的思路重构该理论:从第一阶段受冲动驱使、第二阶段将冲动作为对象以协调个人利益,到第三阶段将个人利益作为对象以协调人际关系。作者认为该模型在解释个体间冲突如何升级为群体间冲突时存在覆盖不足,并指出其个人理解可能尚不完善,希望借此引发对 Kegan 发展阶段概念的进一步探讨。
原文:2026/10/18
爱丁堡大学与英国痴呆症研究所的研究发现,负责维持神经纤维髓鞘的少突胶质细胞会随年龄增长而功能失调,其内部 NRF2 蛋白水平降低与认知衰退速度相关,该研究发表于《Nature Medicine》。在小鼠实验中,降低少突胶质细胞的 NRF2 会导致髓鞘过度增生、大神经纤维丢失并影响认知表现。由于 NRF2 通路已是治疗多发性硬化症等疾病的药物靶点,现有药物未来或可被重新用于应对衰老相关的认知衰退。
原文:2026/10/17
加州大学伯克利分校研究人员在 Cell 发表研究,通过在小鼠脑内植入电极并用光刺激下丘脑特定神经元,直接记录神经活动,绘制出调控生长激素释放的脑回路,并发现生长激素会反向作用于脑干蓝斑核、影响清醒时间的未知反馈系统。研究显示,GHRH 与生长抑素在 REM 睡眠和非 REM 睡眠中以不同模式协同促进生长激素分泌。该回路可能为改善睡眠质量、治疗糖尿病及帕金森、阿尔茨海默等疾病提供新方向。
原文:2026/10/17
文章用一场关于巧克力口味的对话,展示享乐主义功利主义的论证方式:Sweet Caroline 认为既然你喜欢甜味,就该把巧克力的甜度最大化,因为那会让你更开心。Gourmet George 则指出自己也欣赏可可的苦味、辣味和酸味,适度的苦反而让甜更可感。对话以 Sweet Caroline 承认糖吃多了牙齿会掉、食物会难嚼收尾,暗示单一维度的"最大化"难以覆盖真实偏好。
原文:2026/10/17
作者对比 Apple Watch Series 10 与 Oura Ring 4 对 HRV 的追踪,解释 HRV 指连续心跳间隔的波动,反映自主神经调节能力。
原文:2026/10/17
LASR Labs Summer 2026 的一项研究提出用转录分析协议估算基准饱和后的模型能力,通过回放过去几年的模型发布验证其大部分有效,但在推理模型等"范式转变"上失效。
原文:2026/10/17