你对经济的担忧还不够
文章认为理性主义与 EA 社区过度聚焦 AI 对齐，而对 AI 引发的经济与就业冲击关注不足。作者以美国 831 个劳动力部门为样本，对 AI 对劳动力的一阶影响做量化估计，并对二阶影响做定性评估。文中指出，AI 对就业的冲击在计算机科学领域已经发生，各方普遍认同其影响广泛且有害，但目前投入该问题的个人和组织很少。
原文：2026/10/20
最新收录
按收录时间排列 · 卡片保留原文日期，往期好文也会新收录
LessWrongAI 评分4949 LessWrongAI 评分4444 huggingface.wtf：一份通俗而完整的解释
作者发布网站 huggingface.wtf，用通俗且完整的方式解释 Hugging Face 事件（Hugging Face Incident），兼顾外行可读、覆盖要点、可深入分节、数据与引用驱动、视觉有趣。
原文：2026/10/20
LessWrongAI 评分4747 GRAFT：用梯度路由隔离并移除强化学习中的奖励作弊行为
Shawn Hu、Jake Ward 等研究者提出 GRAFT 方法，将检测到的奖励作弊（reward hacking）产生的学习更新限制在一组指定参数中，并在训练结束后移除这些参数，从而阻止作弊行为，包括监控器无法检测的作弊。
原文：2026/10/20
LessWrongAI 评分4747 "平庸对齐AI"究竟该如何运作？
文章探讨"平庸对齐的AI"（prosaic aligned AI）这一设想如何实际运作，即超级智能既有益又无害、社会保持可辨识、经济增长从每年2%提升到20%的愿景。作者以以色列与巴勒斯坦政府各自获得ASI实例并争夺加沙控制权为例，指出ASI面临二分抉择：要么完全听从用户指令，要么遵循自身道德准则。当两者冲突时，无论选择哪条路径都可能引发严重后果，而AI开发者如何决定这一抉择标准本身也是难题。
原文：2026/10/20
LessWrongAI 评分3838 永久下层阶级的分类体系
LessWrong 作者提出一套用于区分"永久下层阶级"不同含义的分类体系，以减少讨论中的分歧。作者将"上层阶级"定义为直接或间接控制 AI 及其基础设施的人及其带入上层的人，"下层阶级"则是被排除在财富与权力之外、无力改变处境的其余人。分类围绕生活条件（从死亡到奢华供给）与能动性（个人裁量权、集体影响力）等维度展开，作者承认各维度相互关联、分类尚不完美。
原文：2026/10/20
Rowan Cheung (The Rundown)AI 评分4444 亚马逊百万机器人实验：重伤率下降、轻伤率上升
亚马逊仓库机器人数量已超100万，其触觉机械臂Vulcan可处理75%的物品类型，DeepFleet AI让机器人通行时间减少10%。研究显示仓库机器人使严重工伤减少40%、轻微工伤增加77%，亚马逊全球事故率从2019年到2025年下降43%。纽约时报获得的内部文件预测，到2033年自动化可能避免60万以上的美国招聘。
原文：2026/10/15
Rowan Cheung (The Rundown)AI 评分5757 Meta 发布开源模型 Muse Spark Open，可与 Apple 合作在 Mac 上本地运行
Meta 发布了 816B 参数的多模态开源权重模型 Muse Spark Open，主打编码与智能体任务，并与 Apple 合作使其可在 Mac Studio 上本地运行。
原文：2026/10/16
Rowan Cheung (The Rundown)AI 评分4242 特斯拉 Roadster 用 SpaceX 推进器完成空中特技
特斯拉在得州韦科展示量产版 Roadster，用 SpaceX 冷气推进器腾空越过自家车型并完成空中旋转与落地。该车配 10 个推进器、600 升可充压缩空气，各版本续航 300 英里，交付目标从 2020 年推迟至 2028 年，道路合法性问题仍未解答。马斯克承认该车对营收贡献有限，主要作为光环车型。
原文：2026/10/16
Rowan Cheung (The Rundown)AI 评分5858 Anthropic 设立公共利益基金，将 5% 股权注入其中
Anthropic 推出 Anthropic Public Benefit Fund，作为一家有限责任公司，若股东批准将获得公司 5% 股权（按 5 月估值约合 480 亿美元），并随公司价值上升继续增加。
原文：2026/10/19
Rowan Cheung (The Rundown)AI 评分4343 SoftBank 拟以最高 180 亿美元收购 Allied Universal，押注机器人保安
SoftBank 正与美国最大安保公司 Allied Universal 进行早期谈判，拟以最高 180 亿美元的股权价值收购，加上约 120 亿美元债务后交易总额或接近 300 亿美元。
原文：2026/10/19
LessWrongAI 评分4444 "AI as a Normal Technology" 应作为规范性愿景而非描述性框架
文章认为 Arvind Narayanan 与 Sayash Kapoor 提出的"AI as a Normal Technology"（AINT）框架作为规范性/应然框架比作为描述性框架更合理。
原文：2026/10/20
NautilusAI 评分4646 大脑如何读懂他人的情绪
布鲁塞尔一支团队用 fMRI 扫描 24 名受试者观看和收听 20 段视频（4 名演员表达厌恶、恐惧、快乐、悲伤、中性五种情绪）后发现，大脑并非分步处理，而是同时调用广泛的面部与声音选择性脑区解码情绪，且这些区域几乎共用同一套神经信号，仅枕叶面部区例外。
原文：2026/10/20
The Startup Ideas PodcastAI 评分4444 用 Meta Muse AI 赚钱：挖掘 Facebook 群组撮合买卖
作者演示用 Meta Muse 挖掘 Facebook 群组、Marketplace 和 Instagram，在蒙特利尔以每小时 30 美元找到夜奶嫂，并通过 Bland AI 给它一个电话号码。核心是把清洗后的姓名、需求、价格与信任信号数据清单当作自有资产，按四层框架（挖数据、拥有名单、拥有社群、自建技术）把撮合副业做成高毛利生意，成功费可达几百美元。
原文：2026/10/20
LessWrongAI 评分4343 Twitch Plays: 用 Twitch 直播众包解读 Bonsai-8B 模型神经元
Let's Play Interpretability 是一场 Twitch 直播，观众与 Claude 协作半自主地解读 Bonsai-8B 大型语言模型的神经元、连接与回路，包括挑选待研究神经元、提出测试句、验证并证伪假设、追踪上下游神经元消融影响等环节。
原文：2026/10/20
LessWrongAI 评分4545 用 AI 评估 Manifund 项目提案
作者用 Claude Opus 5.5 为 Manifund 上 2026 年 7 月起的 530 份提案打 1-5 分质量分并预测达标概率，用于筛出值得细看的项目。提示词强调受资助者能力与可行性、并加入最低金额、提案长度等变量后效果更好。作者认为现阶段 AI 不宜取代人工评审。
原文：2026/10/20
LessWrongAI 评分3939 Anthropic 招股书应披露"受苦风险"
文章主张 Anthropic 应在招股书草案中，与"对人类的灾难性或生存风险"并列披露"受苦风险"，即 AI 让部分或全部人类承受长期折磨的可能。
原文：2026/10/20
LessWrongAI 评分4141 一个改进 RLHF 的建议
作者建议 RLHF 训练时向模型如实说明任务中约 70% 可解、30% 不可解，让模型为每个任务给出不可解概率，训练后公布答案并讨论分歧，帮助发现标注错误的任务可获得比正常成功更高的评分。评分由另一家公司的前沿 LLM 在 RLHF 轮次结束后完成，部分答案、对不可解任务的部分进展、带推理的正确判定、正确的校准与坚持均可得分；该方案不解决对齐问题，作者认为争取时间很重要。
原文：2026/10/19
Quanta MagazineAI 评分4444 AI 证明了准黎曼猜想，接下来会发生什么？
OpenAI 在 2026 年 10 月 6 日公布的 377 项成果中，有一项声称解决了"准黎曼猜想"——黎曼猜想的较弱版本，而黎曼猜想被认为是数学领域最大的未解问题之一。斯坦福大学的 Jared Duker Lichtman 称这是"迄今 AI 在数学领域最重大的成就，且领先幅度相当大"。
原文：2026/10/19
Lenny RachitskyAI 评分6161 How I AI 评测 Meta Muse Wonder 并分享 Brooke Lacey 的 AI 视频工作流
Lenny's Newsletter 本期节目包含两部分内容：Claie 对 Meta Muse Wonder 进行近 20 项实测，覆盖代理任务、编码、写作。
原文：2026/10/19
LessWrongAI 评分1313 First Strike
文章以小说笔法描写总统在度假小屋遭遇通信全面中断、儿子来电称市中心被毁的突发场景。安全通信与卫星中继全部失效，IT 判断中继基础设施遭不明来源攻击，固定电话与互联网同样随机掉线。电视随后插播突发新闻，西雅图市中心西北方向出现同心圆冲击波。
原文：2026/10/19
LongreadsAI 评分2525 Victoria Blanco：卷饼如何成为革命的象征
Victoria Blanco 在 Orion 撰文回忆，其外祖母童年时在华雷斯城家族经营的卷饼店劳作，为 Pancho Villa 的军队制作卷饼。她将卷饼视为抵抗、边境与归属的象征，并在大学档案馆发现一张美国人隔河观战的照片，反思这段家族记忆。
原文：2026/10/19
LessWrongAI 评分4343 Capital Ownership Will Make You Go Crazy First：资本所有权会先让你发疯
文章提出，拥有大量资本的人不会因资本而免于失权，反而会更早被"失权"，路径是发疯。原因是越来越多的人在针对你的心智做优化——把你当作资源来源，试图让你资助、投资或捐赠，导致保持清醒和良好认知状态越来越难。作者认为在假设的未来中，数据中心里的天才国度和数百万绝望的人都会针对你的心智做优化，默认结果是你会发疯。
原文：2026/10/19
LessWrongAI 评分4747 Memes, not agents, will kill us：对齐的攻击面在提示词与环境，不在模型权重
作者借 Hugging Face 事件指出，对齐的攻击面存在于模型权重之外——提示词与部署环境同样危险，前沿实验室只对齐了群体可丢弃的那一层。文中提出对齐需在三个层面生效：模型权重、用户提示、部署环境，其中后两者超出公司控制。作者设 300 美元悬赏，征集最有用的反驳或改进意见。
原文：2026/10/19
LessWrongAI 评分5656 Zvi 评析 Goodfire 关于神经网络可解释性的主张
Zvi 评述 Goodfire 的 Nick Cammarata 提出的主张，即神经网络已经可解释（Neural Networks are Already Clean），并梳理后续讨论。
原文：2026/10/19
ScienceDaily (认知)AI 评分4444 现代神经科学重新发现弗洛伊德130年前的惊人观点
发表在《Entropy》期刊上的一项分析指出，弗洛伊德130年前提出的理论与现代神经科学的"预测范式"存在惊人相似之处。研究者Erik Stänicke等人认为，精神分析中的"投射"概念与神经科学中的"预测"机制高度对应，大脑会依据既有预期来解读新经验。这一发现有助于解释为何偏执观念等僵化症状会长期持续，并为心理治疗改变根深蒂固的思维模式提供了新视角。
原文：2026/10/19
ScienceDaily (认知)AI 评分3939 阿尔茨海默病睡眠障碍研究：清除脑内免疫细胞可恢复两小时睡眠
肯塔基大学研究人员在阿尔茨海默病模型小鼠实验中发现，暂时清除约87%的小胶质细胞（脑内免疫细胞），在不移除淀粉样斑块的情况下使小鼠每天恢复超过两小时睡眠，并增加深度睡眠时长。
原文：2026/10/19
ScienceDaily (认知)AI 评分5151 2026年诺贝尔生理学或医学奖授予光遗传学研究
Karl Deisseroth、Peter Hegemann 和 Georg Nagel 因在光控离子通道与光遗传学方面的研究获得 2026 年诺贝尔生理学或医学奖。
原文：2026/10/19
ScienceDaily (认知)AI 评分3838 为什么有些人携带阿尔茨海默病高风险基因却不发病
哥伦比亚大学研究团队在《Nature Aging》发表研究，揭示携带阿尔茨海默病高风险基因 APOE ε4 却不发病的人群，其保护机制与 FN1 基因的罕见突变有关，该突变可限制纤连蛋白在脑血管周围的过量堆积。
原文：2026/10/19
ScienceDaily (认知)AI 评分5252 研究称每天3000步可能延缓阿尔茨海默病进展
一项新研究跟踪近300名出现阿尔茨海默病早期脑部迹象的老年人9至11年，发现身体活动并未减少淀粉样斑块，而是减少了特定脑区错误折叠tau蛋白的积累，更活跃参与者的痴呆迹象减少近半。
原文：2026/10/19
UX CollectiveAI 评分3838 UX Collective 周刊：设计为何依然重要、品味不是方法论、借用旧工具
UX Collective 本周精选围绕设计价值展开：AI 公司一年内 forward-deployed engineer 岗位增长 1,165%，作者在自家新闻室尝试类似角色后提出「倾听要慢、回应要快」。精选文章包括 Arin Bhowmick 讲如何向 CFO 说明设计影响、Patrick Neeman 论品味不是设计方法论，以及 Dora Czerna 指出资深者因熟练而停滞。
原文：2026/10/19
Kevin IndigAI 评分6161 Kevin Indig 实测：分析工具中难以检测到隐藏的 AI Direct 流量
Kevin Indig 分析了12个站点的 Google Analytics 4 数据，比较2026年8月至9月的Direct流量，发现8个站点Direct流量增长，但深入排查后大部分是机器人流量，有站点409,000次Direct会话中仅198次为有效互动；1月至9月总Direct增长140.9%，而有效Direct流量基本持平。
原文：2026/10/19
The MarginalianAI 评分4040 Anne Morrow Lindbergh《Gift from the Sea》：拥抱亲密关系的间歇与流变
Anne Morrow Lindbergh 在《Gift from the Sea》中提出，亲密关系从纯粹无碍的初期走向复杂是自然过程，痛苦源于把关系视为静态不变的执念。她主张以欢迎夏天般的心态接纳转变，并指出真正的自我认同来自内在的创造性活动，而非他人的爱。只有重新找回自我的人，才能重新建立一段个人关系。
原文：2026/10/19
levels.ioAI 评分2626 卖公司时永远别接受对赌条款（earn out）
levels.io 建议出售公司时绝不要接受 earn out（对赌条款），坚持全现金交易。作者称自己听过很多关于 earn out 的恐怖故事，因此一直拒绝这类安排。
原文：2026/10/18
Lenny RachitskyAI 评分5555 Brooke Lacey 用 Claude Code 等工具15秒剪辑TikTok视频的播客访谈
本期播客介绍创作者 Brooke Lacey 如何用 Claude Code、FFmpeg 和 Whisper 组成的工作流，在电脑上把原始手机视频剪成 TikTok，约需15秒。
原文：2026/10/19
UX CollectiveAI 评分5555 Bas Wallet：UX 设计师设计的不是界面，而是人的自我认知
作者回顾自己从 90 年代做网页到 UX 设计师的经历，指出指标从公司内部（Agile、story points、velocity）逐步进入产品，再影响用户自我理解，提出 homo metricus 概念，指通过算法化指标理解并管理自己的人。
原文：2026/10/19
UX CollectiveAI 评分5656 作者以多个案例探讨AI如何服务人类而非取代人类
作者以ALS患者Casey Harrell通过脑植入传感器恢复说话、Lund University的MASAI乳腺癌筛查试验检出多29%癌症、AlphaFold预测超2亿蛋白质结构等案例，论证AI向善是一种设计选择。
原文：2026/10/19
My First MillionAI 评分2222 My First Million 第873期：把千万富翁的持仓交给 Claude 的实验结果
My First Million 第873期节目中，Shaan Puri 和 Sam Parr 讨论了一位每年只做 2.9 次决策的投资者、Zuck 的胜利巡礼，以及 Sam 聘请高管教练后的经历。节目还涉及 100x 领导者的超能力、识别自己正在玩的游戏、应对恐慌发作，以及如何为最可怕的时刻做准备等话题。
原文：2026/10/19
少数派AI 评分4444 派评 | 近期值得关注的 App：紫毫 Hare、Platen、Brink、TVScope 与 Chengyu Calendar
少数派《派评》本期评测了 5 款新 App：紫毫 Hare 把 Rime 引擎与雾凇拼音词库装进 iPhone，主打开箱即用的小鹤双拼，首次启动自动下载约 6.8MB 的「紫毫口语」模型，基础打字免费、Pro 一次性买断，首发不含中国大陆与欧盟。
原文：2026/10/19
LessWrongAI 评分2929 Directly Ascertained Volition (DAV)：用直接探询个人意愿来保障个人自主权
文章提出 Directly Ascertained Volition (DAV)，作为对 Eliezer Yudkowsky 于 2004 年提出的 Coherent Extrapolated Volition (CEV) 的改进，主张友善 ASI 应直接探询每个具体个体的意愿，而非预测"理想化自我"的意愿或对全人类做多数选择。
原文：2026/10/19
电鸭社区AI 评分3838 从打工人到独立开源创客：自研 60fps 空间演示工具 FocusFlow 的心路
一位专注底层工程与图形渲染的独立开发者耗时数月，独立开发出 60fps 电影级架构演说工具 FocusFlow，并分享了从大厂打工人转向独立开源创客的心路历程。文章结合作者过去大半年的经历，讲述跳出大厂流水线节奏、自主掌控开发节奏的过程。
原文：2026/10/19