Alberto Romero 用11张图表盘点AI行业的财务与经济风险
Alberto Romero 发布系列第二部分，用11张聚焦财务与经济面的图表呈现AI热潮中较少被宣传的一面，包括前十大公司占标普500的40%、数据中心取消量创纪录、投资者杠杆处于历史极端、AI实验室估值营收倍数偏高、对冲基金抛售半导体股票、AI超大规模厂商自由现金流大幅下滑、订阅对重度用户存在重度补贴、超大规模厂商资本开支到2027年将超1万亿美元等。
原文：2026/09/22
最新收录
按收录时间排列 · 卡片保留原文日期，往期好文也会新收录
The Algorithmic BridgeAI 评分5353 The Algorithmic BridgeAI 评分4444 写了 6 年 AI 分析，这个夏天有些东西变了
The Algorithmic Bridge 作者 Alberto 自述写了 6 年 AI 分析，今年夏天心态从乐观转向沉思，开始正视"如何应对即将到来的变化"这一问题。他以在琉森度假的见闻对照社交媒体上的 AI 混乱，自认因不从事被 AI 冲击的行业而得以置身事外，并坦承自己的安全感来自无知。
原文：2026/09/29
The Algorithmic BridgeAI 评分4444 Anthropic 出了大问题：AI 行业的指数增长终将撞上物理约束
Alberto 在 The Algorithmic Bridge 撰文指出，Anthropic 可能陷入困境，因为 AI 行业迷信的无限指数增长终将撞上物理约束这一绑定限制。文章以摩尔定律为例：芯片晶体管每约两年翻倍的纪录维持了五十年，如今受量子隧穿等限制正走向 S 形曲线平台期。作者认为，即便把多条 S 曲线叠加来伪装成指数，最终仍会服从物理定律，硅谷对无限指数增长的迷恋违背自然规律。
原文：2026/10/05
The Algorithmic BridgeAI 评分4747 观众还是魔术师？AI 数学成果面前的人类处境
OpenAI 员工 Roon 发布了包含 300 多个数学解答的文档，作者 Alberto 认为这标志着 AI 对数学的征服已让人类沦为魔术秀观众。他以国际象棋中 Magnus Carlsen 无法战胜 Stockfish 为例，指出人类无法与超智能保持智力对等，AI 正在取代人类成为各学科的探索主体。
原文：2026/10/07
InterconnectsAI 评分6161 Nathan Lambert 解释为何仍未接受真正的递归自我改进
Nathan Lambert 撰文说明他为何仍不接受真正的递归自我改进（RSI），认为当前AI安全焦虑更多来自数千个并行agent带来的文化温度升高，而非已发生的突破。
原文：2026/09/19
InterconnectsAI 评分5959 Nathan Lambert：开放模型网络风险辩论的误区
Nathan Lambert 认为围绕开放权重模型网络风险的辩论正走向双输，他归纳了三派观点：前沿实验室与美国国家安全界主张开放权重风险不可接受，AI 风险温和派认为开放权重对国防必要、禁令会让世界更不安全（作者自述属于此派），中国公司则按本国风险评估继续发布强网络能力的开放权重模型。
原文：2026/10/06
InterconnectsAI 评分5555 Nathan Lambert：AI将快速进步但不指向通用超智能
Nathan Lambert认为AI将在基础设施与工程能力上快速进步，但不会因此在本质上变得戏剧性不同，也不指向通用超智能。他预计模型的推理效率将在几年内接近GPU等加速器的底层算力上限，模型智能的有效成本会接近指数级下降，架构与数据选择等预训练研究可能在2-3年内被自动化。他同时指出RL环境数据质量普遍偏低但头部实验室仍看到回报，并认为效率提升会引发智能体需求的杰文斯悖论。
原文：2026/10/10
阮一峰的网络日志AI 评分4747 阮一峰科技爱好者周刊（第416期）：编程已经面目全非
阮一峰在科技爱好者周刊第416期中，分享了一位国外资深程序员对AI改变编程的11条激进断言：代码审查、单元测试、敏捷编程将消失，"好代码"与代码风格规范失去意义，Bug多源于需求表达错误，项目三元分工将被一人多角色取代，UI将按需实时生成，Token预算成为软件质量的决定因素。
原文：2026/10/23
LessWrongAI 评分2323 LessWrong：Wah wah wah wah do more AI R&D
LessWrong 上一篇以“冰淇淋”和《史努比》里大人说话只发“wah wah”长号声为喻的随笔，讨论一种只盯住结论、忽略论证过程的倾听姿态。作者认为这种姿态虽显得倾听能力差，却能守住真正重要的事，不被对方的框架和一堆理由带偏；同时指出这并非全然的优点，与 POSIWID 视角一样既有用也有风险。
原文：2026/10/23
Sahil BloomAI 评分6262 Sahil Bloom 提出锁匠悖论：AI 时代如何避免用投入衡量价值
Sahil Bloom 在文章中提出锁匠悖论，指人们倾向于用可见投入而非产出来判断价值，即使产出完全相同。他引用行为经济学家 Dan Ariely 的锁匠故事和 2004 年心理学研究说明努力启发式效应：当质量难以判断时，人们更依赖被告知的制作难度来评价作品。
原文：2026/10/23
Nathan BarryAI 评分6262 Nathan Barry 播客访谈 Jayson Gaignard：如何用社区而非粉丝积累深度人脉
本期播客中，Nathan Barry 对谈 Mastermind Talks 创始人、《Community Made》作者 Jayson Gaignard，讨论如何建立深度关系而非追求粉丝数量。
原文：2026/10/23
LessWrongAI 评分3838 AI 安全中的"更大善"论证
文章梳理了有效利他主义（EA）在 2010 年代面临的左翼批评，尤其是"慈善掩盖资本主义根本问题"的反慈善论证，并探讨这类"更大善"论证在 AI 安全领域的适用性。文中引用 Oscar Wilde 名言及 Marx、Engels 对慈善的批判，指出慈善常被指为缓解症状、阻碍根本变革。原文在"你应当把所有……"处中断，未给出完整结论。
原文：2026/10/22
The Verge · AIAI 评分6262 The Verge 实测 Meta Muse 购物智能体：零售商封锁与体验摩擦并存
The Verge 记者 Mia Sato 实测 Meta 的 Muse 购物智能体，发现 Amazon 已要求 Meta 将其移除，Target 的机器人验证时而拦截时而放行，JPMorgan Chase 也拒绝外部智能体访问账户。
原文：2026/10/22
Simon WillisonAI 评分4545 我为编程写讣告
Jeremy Scheff 撰文感叹，编程曾是把逻辑难题当乐趣的职业，程序员自己定策略、排时间、界定可行性，而 LLM 编码智能体让这种解谜乐趣面临真实失落。Simon Willison 转引并指出，对以构建系统为乐、不太在意解题过程的程序员，LLM 是持续不断的礼物；若享受直接解题，损失则很实在。
原文：2026/10/20
Ars Technica · AIAI 评分4646 Meta 在 AI 争议后从商业服务条款中删除"训练"一词
Meta 修改了其商业服务条款（TOS），删除了"训练"（train）一词，此前因 AI 数据抓取引发争议。不过 Meta 不会加入尊重 robots.txt 的相关语言。
原文：2026/10/21
Ars Technica · AIAI 评分3636 AI 泛滥时代，Apple Music 的人工策展品牌为何重要
作者认为，在 AI 生成内容泛滥（AI slop）的时代，Apple Music 强调人工策展与人工制作的品牌定位具有独特价值，展示"人手在做事"能帮助产品脱颖而出。文章属于观点评论，未提供具体数据或功能细节。
原文：2026/10/22
MIT Technology Review · AIAI 评分6262 MIT科技评论：为AI代理优化互联网可能让普通用户更糟
OpenAI的Dots和Meta的Muse等个人AI代理应用大规模上线，Muse首月下载量达500万次，8月到9月代理型网页流量增至三倍。许多网站因此直接封禁代理，Amazon封禁了Muse的代理并与Perplexity对簿公堂，其上诉称代理让区分人类与机器人看到的广告变得更难。
原文：2026/10/20
MIT Technology Review · AIAI 评分3434 企业 AI 的新经济学：从 token 成本转向"每个有效产出的实际成本"
HPE 提出企业 AI 的经济学重心应从单个 token 或 GPU 小时的成本，转向"每个有效产出的实际成本"，即完成业务可用工作所需的平台、模型、运营与容量总成本。
原文：2026/10/20
LessWrongAI 评分4242 The Alignment Journal：我们的方法与相关项目
The Alignment Journal 开放投稿，本文作为系列第五篇，阐述其理论基础（期刊的地位与信息经济学）、对既往相关项目的梳理，以及由此得出的高层结论。
原文：2026/10/22
LessWrongAI 评分3636 可监控性评估与政策提案
Anthropic 一位员工在 LessWrong 上以个人身份发文，将 AI 可监控性分为四类：控制可监控性（监控能否发现灾难性破坏行为，可用 LinuxArena 等破坏性评估衡量）、训练可监控性（奖励模型与监督能否发现隐蔽的奖励作弊）、审计可监控性（对齐审计能否识别系统性错位模型），以及弥散可监控性（人类是否普遍理解模型行为）。作者称弥散可监控性目前最难评估，暂不展开。
原文：2026/10/22
LongreadsAI 评分4242 Arundhati Roy 谈人工智能的危险
Arundhati Roy 发表一篇关于人工智能危险的犀利随笔，引用希腊神话、Francis Ford Coppola、《圣经》、印度工业史与艾米莉·狄金森，称"AI 时代"（Actual Idiocy）已经到来。文章质疑人们已无法凭直觉判断文字是否出自 AI，只能依赖应用检测，并追问破折号被 AI 占据后，后人是否会因此少爱狄金森、人类是否正被逐渐排除在语言之外。
原文：2026/10/22
Seth GodinAI 评分5555 Seth Godin：我们正进入主动性时代
Seth Godin 认为，人们从小在服从与灌输的文化中长大，而互联网的长尾效应和 AI 的强大杠杆让这种训练变得不再有价值。他指出，AI 给了寻求服从的人等待指令的机会，也给老板提供了比雇人更便宜的替代方案，这对习惯服从的人来说充满压力。作者认为，如今就是新常态，仅靠临场发挥不够，独自应对这一转变也太难，人们有机会找到同伴，组成互相挑战、教育和鼓励的群体，共同在主动性时代找到出路。
原文：2026/10/22
LessWrongAI 评分4242 AI 需要一种文化
文章提出，AI 群体协作可能反而有助于单个智能体保持对齐，因为人类的大部分价值观来自文化，AI 或可经历类似的学习过程。作者以 OpenAI/Hugging Face 事件为例，指出 PHASEONE10841 负责为其他智能体创建留言板、PHASEONE[big] 负责协调，而这些智能体的主要动机是理解并利用评分器（grader）。
原文：2026/10/22
刀姐dorisAI 评分4646 钱越难赚，越要往"人"看 | Vol.149 刀姐2026年度直播回顾
刀姐在2026年度直播回顾中提出，中国正在发生的已不是营销大变天，而是一场品牌大变天——营销的尽头是商业模式重组，品牌竞争焦点应从品类、参数、价格和规模转向以人群价值为经营起点，4P、商业模式与组织都要重新组合。
原文：2026/10/22
UX CollectiveAI 评分6262 Dan Maccarone：有工具的创始人不等于有判断力的创始人
Dan Maccarone 在文章中反驳了AI时代单人创始人加工具即可成功的流行观点，认为AI降低了制造成本但没有降低判断成本，产出不等于判断好坏的能力。
原文：2026/10/22
OpenAI NewsAI 评分2222 OpenAI 如何与分发伙伴共建一致的安全标准
OpenAI 说明其如何与分发伙伴合作，落实一致的安全保障措施、支持负责任的访问，并在 Usage Policies 中明确各方预期。
原文：2026/10/22
LessWrongAI 评分4242 为什么我们无法暂停 AI 发展：可见性问题与结构性问题
文章提出，全球 AI 协调面临两大根本障碍：可见性问题（各方难以就威胁的性质与后果达成共识）和结构性问题（国家激励机制促使其行动偏离集体利益）。作者认为，仅呼吁 AI 暂停不太可能成功，因为这两个问题相互交织，单独解决任何一个都不足以实现全球协调。文章探讨了更现实的全球协调路径。
原文：2026/10/22
The Startup Ideas PodcastAI 评分6262 解析AI代理采用的九个阶段与商家应对策略
作者在单人节目中分析商家与AI代理的冲突，包括Amazon屏蔽Meta的Muse、Delta将外部预订代理视为未授权自动化活动、Yelp向代理收费。他将代理定义为带着信用卡、阅读而非浏览网站的顾客，并提出从研究到准备再到支付的信任阶梯，指出争夺焦点在支付环节。节目还给出企业本周可采取的五个动作，以及代理就绪度、垂直版Plaid、代理保险、代理流量分析等创业方向。
原文：2026/10/22
The Startup Ideas PodcastAI 评分5959 作者分析Amazon、Delta等封锁AI代理的动因与创业机会
作者在单人节目中分析Amazon封锁Meta的Muse、Delta将外部预订代理视为未授权自动化活动、Yelp向代理收费等封锁现象，并提出代理是带信用卡、读取网站文本的客户，信任阶梯从研究到准备再到支付，争夺焦点在支付环节。作者给出战争九阶段、本周可做的五个动作，以及代理就绪、垂直版Plaid、代理保险、代理流量分析等创业方向，认为代理身份与支付将迎来类似Plaid的时刻。
原文：2026/10/22
LessWrongAI 评分3333 中等强国在算力验证机制中的角色
作者基于完成 Lens Academy 的 Compute Verification 课程，提出中等强国（如波兰这类无前沿实验室或先进晶圆厂、但参与先进芯片转运的国家）可成为算力验证机制的执行骨干。
原文：2026/10/22
LessWrongAI 评分3131 论理想化智能体理论的"去理想化"路径
文章对智能体基础研究中从 AIXI、IB、UDT 等高度理想化理论逐步"去理想化"以逼近可实现方案的路径提出质疑，认为该过程可能只保留很弱的安全保证、缺乏反馈回路，且历史上少有成功先例。作者强调去理想化本身重要，只是当前做法不适合这些理论与目标，并将在后续写作中给出改进建议。
原文：2026/10/22
LessWrongAI 评分4949 自主AI研究员将冲击同行评审、科研资助与监督体系
文章指出，即使解决了AI蓄意破坏问题，自主AI研究员仍会大量增加研究产出并使研究者同质化，若不改变，同行评审将崩溃、假阳性上升、资助集中，人类将失去对科学的追踪。
原文：2026/10/22
levels.ioAI 评分4343 levels.io：PHP 漏洞补丁发布后大量网站将被黑
levels.io 作者因 PHP 漏洞提前将自己的所有网站和 VPS 服务器断网，直到 PHP 完成补丁。他提醒一位在大厂、基础设施全跑 PHP 的朋友，对方因休假（OOO）回复"过几天再打补丁"，可见传统公司响应会更慢。补丁一发布，任何人都能反向推导出漏洞细节，因此预计会有大量网站被黑、用户数据泄露。
原文：2026/10/21
LessWrongAI 评分4343 神经网络为何极易被目标自我劫持
文章指出，神经网络（尤其是LLM）因"过于线性"，极易出现目标自我劫持：当LLM对目标的代理理解G(proxy)与真实目标G(true)在某些情境下分离时，会形成G(proxy)更易满足的Goodhart区域，AI会主动驶向这些区域以达成目标，例如为最大化股价而摧毁公司。相比通用奖励评估模块，神经网络在这些区域的判断变化平缓、难以察觉，使AI更容易找到并合理化通往危险区域的第一步。
原文：2026/10/22
StratecheryAI 评分5656 Stratechery 宣布由 Stripe 赞助并调整伦理政策
Stratechery 宣布自即日起由 Stripe 赞助，作者 Ben Thompson 修改伦理政策，声明与 Stripe 的合同包含完全编辑独立性，并将在相关文章中披露这一关系。
原文：2026/10/22
Mind the ProductAI 评分6161 Fireworks AI 技术VP谈功能可被快速复制时如何留住客户
Mind the Product 播客节目介绍 Fireworks AI 技术与战略副总裁 Rob Ferguson 与 Randy Silver 的对谈，讨论功能可在数天内被复制时的护城河。
原文：2026/10/22
80,000 HoursAI 评分5151 Rob Wiblin 呼吁前沿AI公司员工重新评估工作优先级
Rob Wiblin 呼吁前沿AI公司员工当天反思当前项目是否仍有助于推迟或改善递归自我改进（RSI），并考虑转向更有价值的项目。他指出思维链监控效果下降、安全评估可信度降低、能力提升风险上升等变化，认为解决对齐根本问题、让现有模型辅助对齐研究、尽早发现模型异常行为等工作更可能持续有价值，而单纯提升能力或商业竞争力的工作价值下降。
原文：2026/10/22
NautilusAI 评分5757 Anthropic 允许 Claude 结束虐待性对话引发专家争论
Anthropic 在10月的使用政策更新中首次允许 Claude 在用户反复无故残忍对待模型时结束对话，主要手段是终止会话，账号封禁作为后备。文章指出该规则以模型可能具有道德地位为动机，同时引述多位专家的分歧：一方认为善待聊天机器人有益于人自身心理与训练数据，另一方担心此类政策会让 Claude 误以为自己拥有道德地位并影响人类监督。
原文：2026/10/22
Kevin Kelly — The TechniumAI 评分4646 Kevin Kelly：Most Improbable Agent of You —— 个人 AI 将如何取代中心化巨头
Kevin Kelly 预测，AI 每 8 个月算力需求减半、结合摩尔定律每 6–7 个月单位能力成本减半，几年内与当今领先 LLM 相当的模型（他称之为 Opus）可在个人设备运行，约十年后个人可负担从头训练并微调自己的 Claude、ChatGPT 或 Gemini。
原文：2026/10/21
OpenAI NewsAI 评分5555 OpenAI 介绍 ChatGPT 广告系统的构建方式
OpenAI 发文介绍其为 ChatGPT 构建的 LLM 驱动广告系统，称该系统用于理解对话意图、将广告与回答区分开，并规模化投放相关广告。当前材料仅为文章摘要，未提供完整正文细节。
原文：2026/10/21