Sam Altman 提出AI安全竞赛的三种终局

早上好，AI 爱好者们，欢迎我们的 4,761 位新读者。据称，OpenAI 目前的 AI 安全策略——在模型通过安全测试后发布，并标记任何疑虑——是 Sam Altman 所说的“pacing 1.0”。续作的选项则要极端得多。

据称 Altman 给员工列出了三种可能的结果：一个全球监管机构、一次单一超级实验室的合并，或者一家实验室一马当先“把其他人的 GPU 都熔化”，他称这种结果“糟糕透顶”。OpenAI 现在有一年时间来选择自己的道路。

提醒：我们的下一场线上研讨会就在今天美东时间 12 点——加入我们，学习如何充分利用 Microsoft Copilot 并利用其最新功能来完成实际工作。在此报名。

今日 AI 要闻：

• Sam Altman 详述 AI 行业的终局

• OpenAI 前研究主管的 Arda 以 15 亿美元估值亮相

• 让 Claude Code 在每次编辑后检查自己的工作

• Anthropic 的 Claude 投身蝎子抗蛇毒血清研究

最新动态

OPENAI

🔮 Sam Altman 详述 AI 行业的终局

图片 来源：Images 2.5 / The Rundown

The Rundown: OpenAI CEO Sam Altman gave an internal talk to staff last week that covered three possible endgames for safe AI, according to The Information — ranging from a global watchdog combining the top labs to one company racing ahead.

细节：

• 报道称 Altman 更倾向于方案 1：一个仿照国际原子能机构（IAIA）建立的全球执法者，OpenAI 自 2023 年以来一直在为其游说。

• “Demis 方案”（以 DeepMind 联合创始人 Demis Hassabis 命名）将顶级实验室合并为一个服务合作国家的实验室，类似于 CERN 的粒子研究。

• Altman 称方案三（以 AI 研究者 Eliezer Yudkowsky 命名）“糟糕透顶”，即一家实验室凭借自我改进的 AI“把其他人的 GPU 都熔化”。

• 他将一年内必须做出的道路选择称为“pacing 2.0”，并表示其中必须包含针对自我改进 AI 的“限速”或停止点。

重要性：Anthropic 的 Jack Clark 刚谈到智能上限，并表示世界只有“几年时间”来采取安全行动——而 Altman 的设想似乎与他头号竞争对手的观点一致。顶级实验室齐聚一堂的复仇者联盟式联手会是个有趣的剧情，但与迄今所有协议一样，让其余同行加入并不容易。

PAVE 合作呈现

🏗️ 几分钟内构建互联的定制应用

The Rundown：Pave 是一款 AI 应用构建器，它将团队的工作方式转化为定制应用，连接你已在使用的工具，并自动运行流程，让你不再充当粘合剂。

使用 Pave，你可以：

• 用通俗语言描述你的流程

• 连接你已在使用的系统

• 几分钟内上线一个可运行的应用

ARDA

🏭 OpenAI 前研究主管的 Arda 以 15 亿美元估值亮相

图片来源：Arda

The Rundown: Former OpenAI Chief Research Officer Bob McGrew just came out of stealth with Arda, a startup building AI that helps factories set up assembly lines for new products far faster, launching at a $1.5B valuation after a $160M Series A round.

细节：

• McGrew 将 Arda 描述为能“为制造工程师做到 Claude 或 Cursor 为程序员所做之事”，即根据设计文件规划建造。

• 对比之下，亚洲的工厂里，大批工人一天就能重新学会新设计，而重新编程一个自动化工作站的成本可能接近 100 万美元。

• 国防公司 Anduril 是 Arda 的首个客户，该公司表示，基本装配说明现在只需 15 分钟，而过去需要 10 小时，如果没有这项技术，他们将“落后”。

• McGrew 希望下一步让机器人进入生产线，由 Arda 的智能体在几天内完成重新编程，他将这一目标称为“西德克萨斯州的全自动版深圳”。

为何重要：McGrew 与 Mira Murati、Ilya Sutskever 等人一同列入了离开 OAI 后创办十亿美元级初创公司的名单，但 Arda 是其中罕见的建设工厂而非前沿模型的公司。这也发生在 Jeff Bezos 的 Prometheus 为一款“通用人工智能工程师”筹集 120 亿美元、专注于设计实体产品数月之后。

AI TRAINING

🪝 让 Claude Code 在每次编辑后检查自己的工作

概要： 在本指南中，你将让 Claude Code 格式化一个设置文件，并在选定的编辑后运行检查。你会引入一个小错误，看看哪个测试能捕获它，并在不修改测试的情况下修复代码。

分步操作：

1. 打开一个新的练习文件夹，让 Claude 构建指南中的小型运费计算器。运行五项测试，确认它在添加钩子之前能正常工作

2. 添加一个钩子，在 Claude 写入设置文件后对其进行格式化。将设置保存在一行中，并检查钩子是否在不改变数值的情况下使其更易读

3. 将运费测试添加到同一个钩子中。让它先完成格式化再运行检查，然后确认五项测试全部通过

4. 让 Claude 引入指南中故意设置的错误。一笔恰好 50 美元的订单现在应该无法通过免运费测试。在修复任何问题之前先阅读失败信息

5. 恢复原始规则并再次运行相同的测试。检查五项测试是否全部通过，然后按照指南的步骤关闭钩子

专业提示： 修复漏洞时保持测试不变。这个钩子在保存后检查编辑，因此检查失败时更改仍会保留。我们的 Pro 会员可获得预置的钩子、练习文件和测试。

PRESENTED BY GLEAN

💰 糟糕的 AI 架构吃掉了你的 token 预算

概要： 对于扩展 AI 规模的企业领导者，Glean 能让每个 token 产出更多有用的工作——因为更好的上下文、智能的模型路由和高效的智能体设计，能在模型花费任何 token 之前就减少浪费。

在本篇内容中，你将看到：

• 上下文层如何减少浪费的处理

• 模型路由为何能将任务发送到正确的模型

• Glean 如何比 Claude Coworker 每个任务节省 81% 的 token

AI & DRUG DISCOVERY

🦂 Anthropic 的 Claude 进军蝎子抗蛇毒血清领域

图片来源：Citrini

概要：Anthropic 发布了一项新研究，其中一款内部 AI 设计出能锁定蝎子毒液毒素并使其失效的蛋白质，该研究与投资公司 Citrini Research 合作开展，两家外部实验室证实 211 个设计中有 17 个奏效。

细节：

• Citrini 的五名员工在自己电脑上无法解除安全限制后，来到 Anthropic 的办公室工作，预算估计为 20 万美元。

• Claude 在五条人类消息的基础上运行了 64 小时，起草了 318,484 个候选设计，并将其中 211 个发送给 Twist Bioscience 和 Adaptyv Bio 进行实验室工作。

• 17 个设计通过了结合测试，但每个只能捕获一种毒素，而且这些蛋白质尚未经过测试，无法确定它们是否真的能中和蛇毒。

• Citrini 宣布其通用抗蛇毒血清的登月实验“失败”，但其结论是，AI 与药物发现的“前沿已经前移”。

重要性：Claude 正在设计蛋白质结合体，并在自己的实验室里工作，但这里的关键是谁在敲键盘——一家投资新闻通讯公司的员工，预算 20 万美元，且没有深厚的药物开发经验。再加上不断进步的 AI，科学研究的产出流程看起来已经大不相同。

快讯

今日社区 AI 工作流

▸ James 用 Claude 制作了一个 3D 打印的枪管螺母

今日的工作流来自读者 James Miller：

“我 3D 打印了一个定制的螺纹枪管螺母，全程没有打开过 AutoCAD。我用 3D 打印机为各种项目制作零件，包括一台弹球机和一艘船，但我用不好 AutoCAD。

作为替代方案，我用平实的英语向 Claude 描述了这个零件，并让它生成一个 .3mf 文件。我在 Bambu Studio 中打开该文件并打印出了零件。”

AI 还有哪些事情没有替你做？我们想听听那些仍在耗费你时间的任务，或者 AI 一直做错的事情。分享你的经历 访问 The Rundown University。

🛠️ 热门 AI 工具

• 🔒 Incogni - 将你的个人数据从网络上清除，让骗子和身份窃贼无从获取。使用优惠码 RUNDOWN 可享 55% 折扣*

• 🏠 Town - 在整个公司范围内协同工作的个人 AI 助手

• 📞 Voxtral 3 - Mistral 的语音 AI 套件，用于构建多语言电话智能体

• 🗣️ Phonon - Gradium 的开源语音模型，体积足够小，可在手机上运行

*赞助内容

📰 今日 AI 领域的其他动态

Radical Numerics 宣称在 AI 设计药物方面实现全球首创，称 FDA 已批准其 Omnii-1 AI 为一名治疗耐药的感染患者设计的病毒。

前 DeepMind 研究员 Thore Graepel 推出了 Metis Reasoning，这家 AI 初创公司将 AlphaGo 的技巧应用于聊天机器人，使其能够对照证据核查自己的工作。

中国 AI 实验室 DeepSeek 发布了 DeepInfer 背后的代码，这是驱动其 V4.1-Flash AI 的引擎，支持华为芯片，让企业无需 Nvidia 硬件即可部署它。

Skyfall AI 发布了 SKY-001，一款为零件和建筑起草 3D 设计的 AI，速度比前沿模型快 51 倍以上，且成本显著更低。

OpenAI 宣布收购 Orchestra Bio，这家初创公司的 AI 智能体可跟踪和监测研究，OpenAI 将其纳入公司的 Rosalind AI 科学工具中。

🎓 重点：新闻、指南与活动

• 阅读我们上一期 AI 新闻通讯：Anthropic 联合创始人称奇点已经到来

• 阅读我们上一期科技新闻通讯：AI 在你的自拍里看到了什么

• 阅读我们上一期机器人新闻通讯：软银对机器人保安的 180 亿美元豪赌

• 今日 AI 工具指南：让 Claude Code 在每次编辑后检查自己的工作

• 今天中午12点（美国东部时间）报名参加研讨会：让 Microsoft Copilot 真正产出实际工作成果

回头见，

Rowan、Zach、Shubham、Jennifer 和 Nate —— The Rundown 背后的团队