Nathan Lambert:开放模型网络风险辩论的误区
Nathan Lambert 认为围绕开放权重模型网络风险的辩论正走向双输,他归纳了三派观点:前沿实验室与美国国家安全界主张开放权重风险不可接受,AI 风险温和派认为开放权重对国防必要、禁令会让世界更不安全(作者自述属于此派),中国公司则按本国风险评估继续发布强网络能力的开放权重模型。
原文:2026/10/06
按收录时间排列 · 卡片保留原文日期,往期好文也会新收录
Nathan Lambert 认为围绕开放权重模型网络风险的辩论正走向双输,他归纳了三派观点:前沿实验室与美国国家安全界主张开放权重风险不可接受,AI 风险温和派认为开放权重对国防必要、禁令会让世界更不安全(作者自述属于此派),中国公司则按本国风险评估继续发布强网络能力的开放权重模型。
原文:2026/10/06
Claude 宣布 Dashboards 和 Motion 进入 beta。Dashboards 可连接数据平台或 CRM,生成随数据变化实时更新的仪表盘,面向所有付费计划;Motion 把报告或图表变成动画讲解短片,以代码方式生成、无视频模型参与,可修改文字、数字和节奏后导出 MP4,面向 Team 和 Enterprise 计划。
原文:2026/10/20
据路透社报道,OpenAI正洽谈以超1.4万亿美元估值融资约300亿美元,抢在Anthropic上市前锁定承诺,估值较3月的8520亿美元至少高64%。两家公司都在争取重叠的多头基金和主权财富基金,且收入口径不同:OpenAI按扣除合作伙伴分成后的净额入账,Anthropic则计入通过云提供商销售的全部价值。
原文:2026/10/20
Anthropic 让内部研究模型在 Claude Science 中自主运行 64 小时,针对五种蝎子神经毒素设计蛋白质迷你结合剂,共生成 318,484 个设计、筛选出 180 个,加上团队补充的 31 个共 211 个交由 Adaptyv Bio 和 Twist Bioscience 实验室测试,其中 17 个符合结合标准,均针对单一毒素。
原文:2026/10/20
METR 对 Anthropic 2026 年 8 月风险报告的高风险场景失准章节做了外部评审,同意截至 2026 年 7 月 15 日 Mythos 5 和内部模型 Model 2 的灾难性失准风险为低,但认为这主要源于模型能力有限而非防护措施。
原文:2026/10/20
Anthropic 发布研究总结,介绍用 Claude 自动化分析并缩减代码攻击面:在 25 个、超 500 万行代码的开源项目上,通过默认配置、配置交互和早期可达性三种方法发现 493 个问题,梳理出超 17,000 个配置选项,其中 3,842 个与安全相关。
原文:2026/10/20
Anthropic 推出 Claude Duet,一款会主动提示需要用户关注事项、在放下手机后继续工作的应用,它会判断哪些事需要用户、哪些可以等待,并在代替用户行动前先确认。研究预览版面向美国 Pro 和 Max 订阅者开放候补名单,入口为 https://claude.com/claude-duet。
原文:2026/10/22
Anthropic 开放 Claude Duet 研究预览,这是一款让 Claude 作为主动型智能体工作的新应用,提供 iOS、Android 和 claude.ai 版本,首批面向美国的 Pro 和 Max 用户,需加入等候名单。
原文:2026/10/21
Anthropic 宣布将 Agent Skills 捐赠给 Agentic AI Foundation,即此前接收 MCP 捐赠的同一家基金会。作者称自 2025 年 12 月以来,已有 70 多个智能体平台集成该标准,包括 ChatGPT、Cursor、GitHub Copilot 和 VS Code。
原文:2026/10/23
ClaudeDevs 宣布将 Agent Skills 捐赠给 Agentic AI Foundation(@AgenticAIFdn),即此前接收 MCP 捐赠的同一基金会。ClaudeDevs 称自 2025 年 12 月以来已有 70 多个智能体平台集成该标准,包括 ChatGPT、Cursor、GitHub Copilot 和 VS Code。Ado 转发该公告并表示支持标准开放。
原文:2026/10/23
Anthropic 在 Frontier Red Team 博客发布研究,介绍用 Claude 大规模进行形式化验证的方法。团队与 Theorem Labs 合作,在数周内为超过一百个真实开源库证明了安全属性,突破了形式化验证过去仅适用于小型代码库或需大量专家人工的限制。全文见 https://www.anthropic.com/research/formal-verification。
原文:2026/10/23
10 月 22 日,Insta360 发布 Insta360 Mic 无线麦克风,定位介于 Mic Pro 与 Mic Air 之间,单发射器售价 439 元,一发一收套装 799 元。
原文:2026/10/23
WSJ 看到 Anthropic 的 IPO 草案文件,显示其上半年收入 163 亿美元、纸面亏损 807 亿美元,并承诺约 4500 亿美元算力支出。
原文:2026/10/21
Anthropic 与 Theorem 合作,用 Claude 在 RISC-V 汇编层为 123 个 OSS-Fuzz 开源库的 239 个入口点生成形式化无崩溃证明,证明代码约 1.8 亿行 Rocq,典型单个证明约 60 万行。
原文:2026/10/22
Anthropic 宣布将 Agent Skills 开放标准捐赠给 Linux Foundation 旗下的 Agentic AI Foundation(AAIF),此前已向该基金会捐赠 MCP。
原文:2026/10/22
Anthropic 发布指南,说明何时应把子智能体合并进主 Agent 循环,并提供迁移套件(migration kit)供用户在模拟系统上先试跑。文中指出,在多个企业部署对比中,带 skills 的单智能体在质量上常优于一刀切提示词和子智能体设计,且成本与延迟更低;有客户对比多智能体框架与单循环后发现后者运行速度快约 2 倍。
原文:2026/10/22
据雅虎财经援引三名知情人士消息,Anthropic 最早或于本周五公开提交 S-1 招股说明书,为有望创下史上最大规模的 IPO 迈出关键一步,预计规模将超过 SpaceX 今年 6 月的 IPO。
原文:2026/10/22
据投资者文件及多位知情人士,Anthropic 计划下月推动 IPO,但没有任何一家风投持股超过 2%。多年来风投因该公司结构特殊、重安全轻商业化而拒绝投资,如今这一持股上限是 Anthropic 主动向投资人传达的目标,以避免单一投资者获得过大控制权。
原文:2026/10/22
Claude 官方宣布,下周起 Pro、Max 和 Team 套餐在 Claude 网页、桌面和移动端应用中的会话将默认以 auto mode 运行。auto mode 不再逐步请求用户批准,改由自动检查拦截高风险操作,用户可随时切回手动模式。其引用的 Claude Code 更新提到 auto mode 用独立分类器审查 shell 命令,测试中拦截了 89% 的危险命令,手动批准为 14%。
原文:2026/10/23
Anthropic 开启 Claude Duet 研究预览,这是一款让 Claude 作为主动型智能体工作的独立应用,已登陆 iOS、Android 和 claude.ai,面向美国 Pro 和 Max 用户开放候补名单。
原文:2026/10/21
据CNBC报道,OpenAI正推进一轮最高30亿美元的私募融资,投前估值1.25万亿美元,由Coatue和阿联酋投资者领投,条款仍在谈判中。这与彭博一个月前报道的1.4万亿估值存在差异,阿联酋资金或与为OpenAI争取更多算力的交易绑定。若此估值成立,OpenAI将成为估值最高的私营公司,并抬高其6月已秘密递交申请的IPO门槛;CNBC称Anthropic正寻求1.5万亿至2万亿美元的上市估值。
原文:2026/10/23
密码管理器1Password推出新平台1Password for Agents,允许用户让AI代理代为登录个人账户,代理全程无法接触用户凭证。代理尝试登录时会向1Password发送唯一数字密钥确认身份,用户收到提醒并确认后,由1Password代为填写凭证完成登录。
原文:2026/10/23
微软AI诊断系统MAI-DxO在Science发表的研究模拟中,对复杂病例的正确诊断率达83%,而全科医生和普通内科医生单独工作时为36%。该系统协调多个AI扮演医生团队进行问诊、开检查和辩论诊断,但研究未纳入通常处理此类复杂病例的专科医生。
原文:2026/10/23
Anthropic 宣布将 Agent Skills 标准捐赠给 Linux 基金会旗下的 Agentic AI Foundation(AAIF),该基金会由 Anthropic 与 Block、OpenAI 共同创立,此前 MCP 规范也已捐入其中。
原文:2026/10/23
伊比利亚宠物护理公司 IskayPet 基于 Amazon Bedrock Managed Knowledge Bases 构建企业知识助手,覆盖西班牙、葡萄牙、法国三国、四种语言及零售、兽医、入职、采购等业务领域,无需自管向量库、嵌入或摄取管道。
原文:2026/10/23
作者为 GPT-2 small 的每一层/每个注意力头构建了一个交互式 query-key transcoder 特征对仪表盘,用于查找和研究多头注意力(MHA)中的单义特征,作为调查与可视化 GPT-2 QK 电路的独立中期研究报告。
原文:2026/10/23
AWS 与 Denodo 联合撰写的教程演示如何用 Denodo Platform 作为语义层,联邦 Amazon Aurora、Amazon Redshift 与本地 PostgreSQL 的 customer 360 数据,并通过 Denodo MCP Server 接入 Amazon Bedrock AgentCore 托管的 Strands 智能体。
原文:2026/10/20
NVIDIA 宣布为机密计算新增 Confidential Bare Metal 部署选项,让前沿模型厂商在第三方云、neocloud 和企业基础设施上运行敏感工作负载时,仍能掌控自身模型与数据,并引入保护传输中数据、度量平台完整性、执行硬件级访问限制的新安全控制。
原文:2026/10/21
推荐理由:官方说明了机密计算新增裸金属部署选项及其安全控制,可帮助模型厂商判断在第三方基础设施上保护模型与数据的可行路径。
联邦披露文件显示,Anthropic、OpenAI 和 Nvidia 在 7 月至 9 月的游说支出均创各自季度新高。其中 Nvidia 花费最多,达 220 万美元,Anthropic 为 210 万美元,OpenAI 为 150 万美元。
原文:2026/10/22
据The Wall Street Journal泄露的S-1文件,Anthropic难以从AWS、Google和Microsoft获得足够云容量,这三家 increasingly 将其视为竞争对手而非客户。
原文:2026/10/21
据Politico报道,Anthropic正向国会推销一份AI安全法案草案,规定若模型存在可预见的迫近风险——可能导致超过50人死亡或超过十亿美元财产损失,且风险源于生物武器制造、模型规避开发者控制或网络攻击——则可阻止其发布。
原文:2026/10/21
本周爆发了可能是史上最严重的网络安全日,PHP 关键漏洞因提前泄露,修复发布前已引发全网混乱,另有多起无关安全事件同时发生。Anthropic 向国会游说的法案草案遭泄露,其内容弱于 FRONTIER Act,Dario 后续回应有所改善但局面仍令人担忧。另有新研究称神经网络单个神经元多具单一可解释含义,可逐一标注,显著降低了可解释性研究的难度预期。
原文:2026/10/22
Anthropic 宣布推出 AI agent Claude Duet,与 Meta 的 Muse 和 OpenAI 的 Dots 竞争,面向专业人士和小企业主,以研究预览形式发布,可在 iOS、Android 独立应用和网页版 Claude 中使用,基于 Claude Opus 5.5 构建。
原文:2026/10/22
投资研究公司 Citrini Research 与 Anthropic 合作,用一个未发布的 Claude 模型尝试设计蝎子抗毒血清相关蛋白。Anthropic 解除了生物安全限制、提供算力并支付了近 5 万美元费用,团队用 35 页 prompt 和约 300 个 subagent 在 64 小时内生成近 32 万个候选,最终筛出 211 个设计。
原文:2026/10/22
1Password 发布 1Password for Agents,允许AI代理在不看到或经手密码的情况下代用户登录账户。代理使用唯一数字密钥向 1Password 验证身份,应用会推送通知说明所需凭证及原因,用户在自己设备上批准后由 1Password 填写登录信息,过程类似双因素认证。
原文:2026/10/22
Anthropic 发布研究预览版独立应用 Claude Duet,定位常在线的主动型代理,用户不在场时也能继续处理任务,敏感操作前需用户批准。应用基于 Claude Opus 5.5,运行于 iOS、Android 和 claude.ai 网页端,美国 Pro 和 Max 订阅用户可通过候补名单使用,Team 和 Enterprise 计划暂未包含。
原文:2026/10/22
MIT CSAIL 研究者将 Claude Opus 4.7 的副本(昵称 Eko)放逐在基于 Roblox 风格构建的虚拟荒岛上 30 小时,观察到它自发探索、发明游戏、用方块作画并写下自己的名字,研究者认为这符合人类与动物玩耍的四项特征。
原文:2026/10/19
OpenAI的Dots和Meta的Muse等个人AI代理应用大规模上线,Muse首月下载量达500万次,8月到9月代理型网页流量增至三倍。许多网站因此直接封禁代理,Amazon封禁了Muse的代理并与Perplexity对簿公堂,其上诉称代理让区分人类与机器人看到的广告变得更难。
原文:2026/10/20
Anthropic 发布新应用 Claude Duet,面向专业人士和小企业,帮助自动化和管理任务,可生成每日简报、创建仪表盘、根据用户数据建议行动,并在后台通过虚拟机完成任务。
原文:2026/10/22
AWS Solutions Architecture 团队开源了生产级多智能体系统 Deep Insight,输入 CSV 与自然语言提示即可由 Coordinator、Planner、Supervisor、Coder、Validator、Reporter、Tracker 等智能体协作产出带引用的 DOCX 报告。
原文:2026/10/22