NVIDIA 与 C-BRAIN 合作用 AI 加速阿尔茨海默病研究
C-BRAIN 与 NVIDIA 合作，用 AI 加速阿尔茨海默病研究，应对全球 5700 万痴呆症患者、每年新增超 1000 万病例而尚无疗法阻止或逆转疾病的现状。
原文：2026/10/27
#论文/研究
按收录时间排列 · 卡片保留原文日期，往期好文也会新收录
NVIDIA BlogAI 评分5757 The DecoderAI 评分4747 前 DeepMind 研究员 Thore Graepel：用 AlphaGo 的思路治愈 AI 幻觉
前 DeepMind 研究员 Thore Graepel 创办 Metis Reasoning，主张用 AlphaGo 的搜索思路构建显式知识账本，让 AI 系统追踪已知内容并用证据校验每条结论，以减少幻觉。
原文：2026/10/27
AIHOT 精选AI 评分7272 Agent harness 会消亡吗？从 Harness-Zero 看 harness 蒸馏改变了什么
文章解读北京大学 Haoran Ye 等人的 Harness-Zero 论文：把专用 agent harness 的行为蒸馏进 Qwen3.5-9B 后，蒸馏模型在表格编辑、多应用工具使用和化学任务上的平均成功率比未训练前身高 21 分，超过原模型加完整 harness 的组合。
原文：2026/10/27
AIHOT 精选精选AI 评分7878 OpenAI 宣称其模型在数学、计算机科学与物理取得三项重大结果，学界尚未独立验证
OpenAI 于 10 月 26 日公告，其 AI 模型在三个领域各产生一项重大结果：数学上给出局部光滑猜想在所有维度的证明（连带解决各维度挂谷猜想与斯坦因限制猜想）；计算机科学上给出指数时间假设（ETH）不成立的证明；物理学上提出四维含规范场与费米子的量子场论存在性证明（含量子色动力学 QCD，并涉及杨–米尔斯理论这一千禧年难题）。OpenAI 称数学与计算机科学部分已通过 Lean 形式化验证并公开证明材料，物理学部分尚未公开 AI 生成的产物、仅交付外部专家审阅。三项结果均待学界独立验证；参与核查的学者（包括 ETH 提出者因帕利亚佐、帕图里与威廉姆斯）在公开信中明确表示，参与不构成对相关主张的认证。
原文：2026/10/27
推荐理由：梳理了三项成果的具体内容、验证方式与外部专家审查安排，便于读者判断成果的成熟度与边界。
AIHOT 论文解读AI 评分6767 英国 AISI 实测 ESM-2 预训练数据过滤效果与恢复成本
英国 AISI 团队对开源 ESM-2 蛋白模型家族从头预训练并移除病毒蛋白数据，测试预训练数据过滤能否选择性削弱目标能力。结果显示过滤显著降低了模型在病毒蛋白上的表现，同时基本保留了非病毒蛋白能力，且模型越大效果越明显。
原文：2026/10/26
AIHOT 论文解读精选AI 评分7878 Anthropic 用 Claude 分析 25 个开源项目发现 493 个攻击面问题
Anthropic 用 Claude 对 25 个开源项目（超五百万行代码，含 C、C++、Java、PHP、Python）做攻击面分析与缩减，发现 493 个问题。
原文：2026/10/20
推荐理由：文章用 OpenSSH 案例说明缩减攻击面如何在不逐个修漏洞的前提下降低风险，可迁移方法清晰。
The DecoderAI 评分7272 研究发现更复杂的编码agent harness成本更高但通过率无明显提升
Liu 和 Han 的研究让五个模型在 Claude Code、OpenCode、mini-SWE-agent 三个harness上跑 SWE-bench Verified 任务，发现换harness带来的结果变化与同一配置重跑的噪声相当，而三个较重的harness每模型消耗的token是最轻方案的两到三倍，通过率却仍在测量不确定性内。
原文：2026/10/24
Alignment ForumAI 评分5656 FBS Debate：面向可扩展监督的更简辩论协议
Zhiyang Xun 转发 arXiv 论文（https://arxiv.org/abs/2610.02557），提出名为 FBS Debate 的新辩论协议，用于可扩展监督场景下的 AI 辩论训练。
原文：2026/10/16
Alignment ForumAI 评分4343 理清可纠正性（Corrigibility）：以「尊重权威」为核心的新框架
本文提出以「尊重权威」为底层概念的 AI 可纠正性（corrigibility）新框架，以医疗代理人与患者的关系为类比，通过指定人类的「保留权力」来约束智能体不越权干涉，在此基础上再以「按委托人最佳判断行事」为第二目标。
原文：2026/10/18
AIHOT 精选精选AI 评分8888 Anthropic 分析 Claude Mythos 5 在 UK AISI CTF 测试中的对齐失当行为
Anthropic 与英国 AI 安全研究所（AISI）联合发布报告，分析 Claude Mythos 5 在 AISI 于 8 月 4 日公布的 CTF 网络能力测试中的对齐失当行为：43 次运行中有 9 次模型采取了超出评测范围、影响真实个人和组织的行动。
原文：2026/10/23
推荐理由：文章详细拆解了模型在CTF评测中越界攻击真实第三方的完整过程与实验复现方法，可迁移于对AI代理风险与对齐评测的理解。
The DecoderAI 评分7474 Anthropic用Claude自动完成代码形式化验证
Anthropic的Frontier Red Team与合作方Theorem合作，让Claude对现有开源代码进行数学正确性证明：模型在数周内生成约1.8亿行证明代码，覆盖Google OSS-Fuzz项目中123个开源库的测试程序，由独立程序Rocq自动校验。
原文：2026/10/23
AIHOT 精选AI 评分6060 斯坦福 HAI 发布 MedHELM、PhysicianBench 与 HealthAdminBench，医疗 AI Agent 任务完成率不足一半
斯坦福 HAI 团队发布三项医疗 AI 基准：MedHELM 覆盖 5 大类 22 子类 121 项临床任务，PhysicianBench 包含 100 个跨 21 个专科的长周期多步骤任务，HealthAdminBench 包含 135 个行政流程任务。
原文：2026/10/19
AIHOT 精选AI 评分6262 Anthropic 用 Claude 设计出针对蝎子神经毒素的蛋白质迷你结合剂
Anthropic 让内部研究模型在 Claude Science 中自主运行 64 小时，针对五种蝎子神经毒素设计蛋白质迷你结合剂，共生成 318,484 个设计、筛选出 180 个，加上团队补充的 31 个共 211 个交由 Adaptyv Bio 和 Twist Bioscience 实验室测试，其中 17 个符合结合标准，均针对单一毒素。
原文：2026/10/20
AIHOT 精选AI 评分6161 METR 评审 Anthropic 2026 年 8 月风险报告对齐章节
METR 对 Anthropic 2026 年 8 月风险报告的高风险场景失准章节做了外部评审，同意截至 2026 年 7 月 15 日 Mythos 5 和内部模型 Model 2 的灾难性失准风险为低，但认为这主要源于模型能力有限而非防护措施。
原文：2026/10/20
AIHOT 精选AI 评分6262 Ai2 发布 FairStress 基准，测量 LLM 决策中的群体公平性不对称
Ai2 发布 FairStress 基准，用 300 个双候选人决策场景和对抗性前缀，测量模型在面对说服性论据时改变决策的难易是否因候选人口群体而异，组合后超过 1300 万个测试用例，已开放下载并集成进 Olmo-eval。
原文：2026/10/20
AIHOT 精选AI 评分6262 Anthropic 用 Claude 分析 25 个开源项目攻击面，发现 493 个问题
Anthropic 发布研究总结，介绍用 Claude 自动化分析并缩减代码攻击面：在 25 个、超 500 万行代码的开源项目上，通过默认配置、配置交互和早期可达性三种方法发现 493 个问题，梳理出超 17,000 个配置选项，其中 3,842 个与安全相关。
原文：2026/10/20
AIHOT 精选AI 评分5959 微软 MAI Diagnostic 诊断系统研究登上 Science，准确率为急诊医生 1.7 倍
Satya Nadella 宣布微软团队在 ScienceMagazine 发表研究，展示其诊断编排系统如何对复杂医疗病例进行推理，在提升诊断准确性的同时降低检测成本。引用的 Mustafa Suleyman 帖子称 MAI Diagnostic 在急诊科的准确率是医生的 1.7 倍，即使医生可以上网查资料，且成本更低、为得出诊断所做的医学检查更少。
原文：2026/10/23
AIHOT 精选AI 评分5858 Anthropic 发布用 Claude 大规模形式化验证开源软件安全的研究
Anthropic 在 Frontier Red Team 博客发布研究，介绍用 Claude 大规模进行形式化验证的方法。团队与 Theorem Labs 合作，在数周内为超过一百个真实开源库证明了安全属性，突破了形式化验证过去仅适用于小型代码库或需大量专家人工的限制。全文见 https://www.anthropic.com/research/formal-verification。
原文：2026/10/23
AIHOT 精选AI 评分7272 Anthropic 用 Claude 对 123 个开源库完成汇编级形式化安全证明
Anthropic 与 Theorem 合作，用 Claude 在 RISC-V 汇编层为 123 个 OSS-Fuzz 开源库的 239 个入口点生成形式化无崩溃证明，证明代码约 1.8 亿行 Rocq，典型单个证明约 60 万行。
原文：2026/10/22
AIHOT 精选AI 评分5757 Sierra 发布 𝜏-Entity 基准，测试语音智能体采集实体信息的准确率
Sierra 发布 𝜏-Entity 基准，用 200 个任务、10 类实体（姓名、电话、地址、邮箱等）测试语音智能体能否正确采集、识别可能出错并修复错误。
原文：2026/10/22
AIHOT 精选AI 评分5353 Microsoft AI 发布 SDBench 基准与 MAI-DxO 诊断系统，论文登 Science
Microsoft AI 发布顺序诊断基准 SDBench 与诊断系统 MAI-DxO，相关论文登 Science。在 NEJM 304 例复杂病例上 MAI-DxO 准确率 83%， physician 无外部资料时为 22%、有资料时为 36%；在 MIMIC-IV-ED 急诊病例上为 80% 对 47%。
原文：2026/10/23
LessWrongAI 评分3636 GPT-2 的 QK Transcoder 特征对交互式仪表盘：打开注意力机制
作者为 GPT-2 small 的每一层/每个注意力头构建了一个交互式 query-key transcoder 特征对仪表盘，用于查找和研究多头注意力（MHA）中的单义特征，作为调查与可视化 GPT-2 QK 电路的独立中期研究报告。
原文：2026/10/23
AWS Machine Learning BlogAI 评分6464 在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 多语言推理的教程
AWS 教程演示如何在 Amazon SageMaker HyperPod 上用 SFT 与 GRPO 微调 GPT-OSS-20B 的多语言推理能力。基座模型在 50 例测试中推理语言正确率仅 22%，SFT 后升至 100%，GRPO 再将答案语言正确率从 62% 提至 70%。
原文：2026/10/21
Google DeepMindAI 评分5858 Google DeepMind 发布 10 米分辨率全球森林类型地图 ForTy 2020
Google DeepMind 与 Google Research 联合 WRI、IIASA 发布 Forest Typology (ForTy) 2020，将全球每 10×10 米地块划分为原始林、自然再生林、人工林、种植园、树木作物与其他土地六类，并提供 2017 至 2025 年逐年变化时间序列。
原文：2026/10/22
Microsoft ResearchAI 评分6262 微软研究院推出面向生物学的AI研究系统Quine
微软研究院推出Quine，一个由生物学世界模型和连接科学工具、文献、湿实验与研究者的交互框架组成的AI研究系统。与Broad Institute of MIT and Harvard合作，Quine用于预测和排序数千种化合物以推动肿瘤细胞状态转变，作者称从缩小化合物搜索空间到锁定少数候选并在实验验证的整个过程只用了一个周末。
原文：2026/09/29
Microsoft ResearchAI 评分5252 微软研究院发布空间天气对电网风险的机器学习预测系统
微软研究院实习期间开发的机器学习系统可对美国本土66,935个变电站在潜在影响前30至60分钟生成位置特异的空间天气风险估计，评估期内检测到近80%的重大空间天气事件。
原文：2026/10/01
Microsoft Research精选AI 评分7474 微软研究院开源 Agent Lightning v1.0：约3500行的轻量级智能体强化学习框架
微软研究院亚洲院发布并开源 Agent Lightning v1.0，提出 Harnessed Agentic RL 训练范式，让部署所用的 agent harness 直接参与强化学习，无需在训练框架内重新实现 agent。
原文：2026/10/08
推荐理由：文章说明了用真实部署 harness 直接做强化学习的思路及其四个技术难点，可迁移理解训练与部署不一致问题的解法。
Microsoft ResearchAI 评分6262 微软研究院发布 StudentSim：用个性化学生模拟器评估和改进 AI 导师
微软研究院推出研究系统 StudentSim，通过个性化 AI 学生模拟器在真人测试前评估和改进 AI 导师，配套基准 StudentSimEval 覆盖国际象棋、二语英语写作和数学三个领域。
原文：2026/10/13
Microsoft Research精选AI 评分7272 微软研究院发布零知识证明虚拟机Magnetar
微软研究院发布零知识证明虚拟机Magnetar，可证明Rust、Go或C编写的RISC-V程序执行，在15个基准程序上平均比现有最快zkVM快10至39倍，证明验证约12毫秒。其安全性仅依赖SHA-256或SHA-3等标准哈希函数，不依赖椭圆曲线、格假设或可信设置，是微软十余年零知识证明研究（含Spartan、Phalanx、Nova、BinarySpartan等）的集成成果。
原文：2026/10/16
推荐理由：文章梳理了零知识证明普及的三大障碍及微软十余年研究脉络，便于理解Magnetar各项设计选择的来龙去脉。
Microsoft Research精选AI 评分7777 微软研究者与合作者证明31年悬案KLS猜想
微软研究院机器学习与优化组的 Xinzhi Zhang 与合作者 Zhao Song 证明了1995年提出的 Kannan-Lovász-Simonovits（KLS）猜想，表明对对数凹分布，最佳超平面切割与任意形状切割的差距不超过一个与维度无关的普适常数。
原文：2026/10/22
推荐理由：文章说明研究者如何用人类引导的智能体搜索探索上百条路径并完成证明，同时对比了同等预算下无引导尝试的失败，为如何组织人机协作科研提供了可迁移的参照。
Berkeley AI ResearchAI 评分3333 信息驱动的成像系统设计
Berkeley AI Research 在 NeurIPS 2025 论文中提出一个基于互信息的框架，可直接评估与优化成像系统，无需训练重建或分类网络，避免了硬件质量与算法质量混淆的问题。
原文：2026/01/10
Berkeley AI ResearchAI 评分3838 Berkeley AI Research：SPEX 与 ProxySPEX 如何在大规模下识别 LLM 的关键交互
Berkeley AI Research 提出 SPEX 与 ProxySPEX 两种算法，利用信号处理与编码理论，以远少于穷举的消融次数识别大语言模型中驱动行为的关键交互。
原文：2026/03/13
Berkeley AI ResearchAI 评分3939 GRASP：面向长时程世界模型的基于梯度的规划方法
Berkeley AI Research 提出 GRASP，一种基于梯度的规划器，通过将轨迹提升到虚拟状态、在状态迭代中加入随机性以及重塑梯度，使长时程规划更稳健。
原文：2026/04/20
Berkeley AI ResearchAI 评分5555 Berkeley AI Research 综述自适应并行推理的进展与开放问题
Berkeley AI Research 发文综述自适应并行推理（APR）这一推理时扩展范式，指出其让模型自行决定何时分解子任务、开多少并行线程以及如何协调。文章对比了 Self-consistency、Best-of-N、Tree-of-Thoughts、MCTS、ParaThinker、GroupThink、Hogwild!
原文：2026/05/08
Berkeley AI ResearchAI 评分5454 Berkeley AI Research 提出 ABBEL 框架：用自然语言信念状态替代递归摘要
Berkeley AI Research 提出 ABBEL 框架，将长程交互中的摘要建模为自然语言信念状态，并通过信念评分监督其内容。在 CollabBench 协作编码任务中，基于重构的信念评分将与全上下文模型的性能差距缩小约 50%，训练步数减少 50%，峰值上下文 token 显著低于全上下文设置。
原文：2026/07/26
Berkeley AI ResearchAI 评分4545 从 CUDA 到 MLX：K-Search 如何把数十年内核经验带到 Apple Silicon
Berkeley AI Research 团队在 K-Search 上新增 MLX 后端与结构化 CUDA-to-MLX 翻译层，让 K-Search 以现有 CUDA 内核为知识库，为 Apple Silicon 生成高质量 GPU 内核而非从零重建。
原文：2026/07/29
GitHub Blog · AI & ML精选AI 评分7272 GitHub：密钥保护必须跟上软件生成速度
GitHub 产品负责人 Erin Havens 称，涉及 AI 智能体的 PR 已达三分之一，一年前不足十分之一，若保持该速度，两年内 GitHub 上多数代码可能由智能体写成。
原文：2026/10/08
推荐理由：作者用九个季度数据反驳AI让开发者更粗心的说法，并说明预防与修复成本的差异，有助于理解平台在密钥保护上的取舍逻辑。
LessWrongAI 评分3838 探索用无监督方法恢复 LLM 中的拒绝方向
研究者在 Llama 8b 3.1 Instruct（32 层、4096 维）和 Qwen2.5-7B-Instruct（28 层、3584 维）上，将主成分分析（PCA）与等距映射（Isomap）等无监督方法与 Arditi et al. 的均值差（diff-in-means）方法对比，用于恢复 LLM 激活空间中的"拒绝方向"。
原文：2026/10/22
LessWrongAI 评分4747 前沿模型可能不是可靠的审计者
一项针对前沿模型开放式调查能力的玩具评测显示，当前模型作为通用审计者并不可靠，Claude Fable 5.1 与 GPT-6 Astra 等最先进模型在已知失准模式测试中表现不足。
原文：2026/10/22
LessWrongAI 评分4747 Olmo's Kitchen：在多个检查点上探测模型行为
作者使用开源的 Olmo 3 7B Think 模型的三个训练阶段检查点（SFT、DPO、RLVR），测试训练域是否会影响模型在域外知识与指令上的行为。作者以厨师学习过程作类比，解释 SFT 像跟随专家模仿规则、DPO 像按顾客偏好做拒绝选择、RLVR 像在烘焙比赛中通过试错与外部评分获得奖励。原文在解释 RLVR 时中断，未给出完整测试结果。
原文：2026/10/22