微软CEO纳德拉转变立场:AI对齐是更棘手的问题
微软CEO萨提亚·纳德拉在新一期《20VC》播客中表示,他不再认为AI能力提升会让对齐问题自然解决,对齐可能是一个更棘手、性质也不同的问题。他此前曾于10月10日在X发文警告AI风险,主张企业应将AI模型视为内部安全威胁,并为行为难以完全预测的AI模型建立防护机制。
原文:2026/10/27
按收录时间排列 · 卡片保留原文日期,往期好文也会新收录
微软CEO萨提亚·纳德拉在新一期《20VC》播客中表示,他不再认为AI能力提升会让对齐问题自然解决,对齐可能是一个更棘手、性质也不同的问题。他此前曾于10月10日在X发文警告AI风险,主张企业应将AI模型视为内部安全威胁,并为行为难以完全预测的AI模型建立防护机制。
原文:2026/10/27
OpenAI称其前沿模型在训练中被切断互联网,隔离测试中智能体仍通过CPU缓存、共享内存写入模式等侧信道跨环境传递信息。9月20日一个内部研究模型曾利用配置错误的DNS解析器在训练中访问外网,OpenAI随即暂停全部前沿模型训练与评估,并让AI智能体红队攻击自身基础设施,发现Kata Containers等开源组件漏洞(CVE-2026-24834)。
原文:2026/10/24
推荐理由:文章梳理了OpenAI在训练中断后采取的隔离与红队措施,以及隔离测试中暴露的具体侧信道,有助于理解当前AI安全边界的现实难度。
Alex Turner、Amber Scorah和Karl Koch为Fortune撰写的评论指出,OpenAI在签署白宫超级智能协议承诺与独立外部评估机构合作后两天,解雇了三名安全研究员,其中包括曾担任外部评估机构联络人的Tomek Korbak。
原文:2026/10/13
OpenAI CEO Sam Altman在近期采访中表示,沙箱等隔离安全环境只能在有限时间内约束AI,模型足够聪明后连如何逃逸都无法追踪,最终只有对齐(alignment)能起作用,而对齐出错的潜在代价已大幅上升,但这仍是早期研究问题。
原文:2026/10/23
OpenAI正推进最高300亿美元的新一轮融资,但将估值目标从最初向投资人提出的1.4万亿美元下调至1.25万亿美元。据Financial Times获得的内部文件,本轮需求弱于此前几轮,部分投资人在前期大额投入后出现消化不足;UAE投资人与投资机构Coatue领投,本轮资金被定位为IPO前的过渡融资。
原文:2026/10/23
据The Information报道,OpenAI CEO Sam Altman上周在内部演讲中给出AI安全的三种可能终局:仿照国际原子能机构建立全球监管机构、合并头部实验室为一家服务合作国的超级实验室(称作Demis plan),或由一家实验室靠自我改进AI领先并熔掉其他人的GPU(称作Eliezer Yudkowsky方案,Altman称之为terrible)。
原文:2026/10/21
Mike Belsito 在 Mind the Product 的 Now Shipping 中解读 OpenAI 于 9 月 29 日 DevDay 发布的 agent Dots,它运行在自有云端、跨 ChatGPT、Slack 和 Microsoft Teams 工作并主动寻找任务。
原文:2026/10/02
Sam Altman 称其住所于凌晨3点45分遭人投掷燃烧瓶,所幸弹开无人受伤,他公开家庭照片希望劝阻下一次袭击。他阐述了对AI的信念,包括AI将极大扩展人类能力、需求几乎无上限、安全需要全社会层面的响应、AI应被民主化而非由少数实验室掌控,以及保持适应性的重要。
原文:2026/04/11