DeepSeek 以 Apache-2.0 开源大规模推理框架 DeepInfer
DeepSeek 以 Apache-2.0 许可证开源了其高性能大规模推理框架 DeepInfer，仓库地址为 https://github.com/deepseek-ai/DeepInfer。
原文：2026/10/20
#开源/仓库
按收录时间排列 · 卡片保留原文日期，往期好文也会新收录
AIHOT 精选AI 评分6060 AIHOT 精选AI 评分6262 DeepSeek 全面开源内部推理框架 DeepInfer
DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，并同步开源生产级 Token 编解码组件 deepseek-recipe，同时给出仓库地址和兼容平台，开发者可据此优化大规模推理的成本。
原文：2026/10/20
AIHOT 精选AI 评分6262 DeepSeek 开源自研推理框架 DeepInfer 及配套组件
DeepSeek 宣布完全开源自研推理框架 DeepInfer，以及 deepseek-recipe 等服务 DeepSeek 模型的关键组件，代码位于 github.com/deepseek-ai/DeepInfer。官方称该框架已大规模支撑 DeepSeek-V4.1-Flash 的高吞吐低延迟推理，希望帮助更多企业和机构部署 DeepSeek 模型并从中获利。
原文：2026/10/20
AIHOT 精选AI 评分5858 Google 发布基于 TorchTPU 的 vLLM 与 SGLang 原生 PyTorch 推理引擎
Google 推出基于 TorchTPU 的 vLLM-TorchTPU（与 Inferact 合作）和 SGLang-TorchTPU（与 RadixArk 合作）原生 PyTorch 推理引擎。
原文：2026/10/20
AIHOT 精选AI 评分5858 Google 发布 TorchTitan TPU 分叉并给出模型优化 Playbook
Google 推出 TorchTitan 的 TPU 分叉（github.com/google-pytorch/torchtitan），配合 TorchTPU 原生后端在 Cloud TPU 上训练 PyTorch 模型，提供 SimpleFSDP、Graph Trainer、Pallas 内核和优化 Playbook。
原文：2026/10/20
AIHOT 精选AI 评分6262 Ai2 发布 FairStress 基准，测量 LLM 决策中的群体公平性不对称
Ai2 发布 FairStress 基准，用 300 个双候选人决策场景和对抗性前缀，测量模型在面对说服性论据时改变决策的难易是否因候选人口群体而异，组合后超过 1300 万个测试用例，已开放下载并集成进 Olmo-eval。
原文：2026/10/20
AIHOT 精选AI 评分5858 RadixArk 联合 Google 与 Meta 开源 SGLang-TorchTPU，让 SGLang 在 TPU 上原生提供 PyTorch 生产级推理
RadixArk 的 SGLang 团队与 Google、Meta 合作开源 SGLang-TorchTPU，这是一个原生 PyTorch 后端，把 SGLang 完整服务栈带到 Google Cloud TPU，让同一引擎既能在 GPU 也能在 TPU 上服务模型。
原文：2026/10/20
AIHOT 精选AI 评分6868 Meta 开源权重模型 Muse Spark Open 在 Fireworks 上线，主打长上下文编码与 Agent 工作
Meta 的开放权重模型 Muse Spark Open 在 Fireworks 上 Day-0 上线 serverless 调用，为 816B 参数 MoE 模型，每 token 激活 42B 参数，上下文窗口 1M token，面向长周期编程与智能体工作。
原文：2026/10/20
AIHOT 精选AI 评分7676 DeepSeek 开源推理框架 DeepInfer 并发布技术报告
DeepSeek 开源了支撑其线上生产服务的高性能推理框架 DeepInfer，采用 Apache 2.0 许可证，基于 vllm_project 构建并借鉴 SGL 和 TensorRT-LLM，本次聚焦离线推理，同时支持 NVIDIA SM100 GPU 和华为昇腾 950 NPU。
原文：2026/10/21
AIHOT 精选AI 评分7070 Wiz 披露 LiteLLM PyPI 包遭供应链攻击，恶意版本窃取凭据
Wiz 披露 LiteLLM 的 PyPI 包遭供应链攻击，10月21日11:39 UTC 上传的恶意版本 1.107.0 约被下载 49,000 次，已于13:20 UTC 被隔离，安全版本为 v1.106.2。
原文：2026/10/21
AIHOT 精选AI 评分7272 Anthropic 用 Claude 对 123 个开源库完成汇编级形式化安全证明
Anthropic 与 Theorem 合作，用 Claude 在 RISC-V 汇编层为 123 个 OSS-Fuzz 开源库的 239 个入口点生成形式化无崩溃证明，证明代码约 1.8 亿行 Rocq，典型单个证明约 60 万行。
原文：2026/10/22
AIHOT 精选AI 评分6060 MiniMax Code 桌面端推出 Mini App 长运行应用功能
MiniMax 在 MiniMax Code 桌面端（macOS / Windows）推出 Mini App，一种带前端和 Node.js 后端、可安装为插件并与 Agent 互相调用的长运行应用，让 Agent 的工作保持在一个持续更新的页面上，而非散落在对话里。
原文：2026/10/22
AIHOT 精选AI 评分5656 OpenAI 发布 Codex 技能与开源工具自查 PHP 关键漏洞影响
OpenAI 为 PHP 关键漏洞提供 Codex 技能，引导用户运行 github.com/openai/php2shell-checker 仓库自查网站是否受影响。背景是其 Patch the Planet 计划中 OpenAI 模型帮助研究员发现 PHP 关键缺陷，修复涉及 PHP 引擎大改，经约两个月协调后披露，使用 PHP 的网站可升级版本并应用安全厂商的缓解措施。
原文：2026/10/22
AIHOT 精选AI 评分5353 Microsoft AI 发布 SDBench 基准与 MAI-DxO 诊断系统，论文登 Science
Microsoft AI 发布顺序诊断基准 SDBench 与诊断系统 MAI-DxO，相关论文登 Science。在 NEJM 304 例复杂病例上 MAI-DxO 准确率 83%， physician 无外部资料时为 22%、有资料时为 36%；在 MIMIC-IV-ED 急诊病例上为 80% 对 47%。
原文：2026/10/23
AIHOT 精选AI 评分5555 MiniMax 开放 M3.1 Flash 模型权重下载
MiniMax 宣布 M3.1 Flash 权重公开，总参数 428B、每 token 激活 23B，提供 Hugging Face 和 ModelScope 下载。
原文：2026/10/23
AIHOT 精选AI 评分5555 llm-d 1.0 发布：Kubernetes 原生分布式推理服务走向生产就绪
llm-d 项目贡献者在北美 PyTorch 大会上宣布推出 llm-d 1.0，这是一个 Kubernetes 原生的分布式推理服务框架，支持在任何云、任何加速器上为任何模型部署推理栈，由 Red Hat、IBM 和 Google 作为首席维护者主导。
原文：2026/10/20
AIHOT 精选AI 评分6666 Google 与 Meta 联合开源 TorchTPU：PyTorch 原生 TPU 后端
Google 与 Meta 合作开源 TorchTPU，为 Google TPU 提供符合 PyTorch 设计原则的原生后端，运行时不依赖 JAX，模型只需把 .to("cuda") 改成 .to("tpu") 即可开箱运行。
原文：2026/10/21
AIHOT 精选AI 评分5757 蚂蚁集团与 vLLM 社区开源量化推理内核库 Humming
蚂蚁集团与 vLLM 社区开源量化推理内核库 Humming，仓库为 github.com/vllm-project/humming，已集成进 vLLM 0.29.0。
原文：2026/10/21
AIHOT 精选AI 评分6262 MiniMax 开源 M3.1 Flash 模型，上线 72 小时处理 Token 超 100 万亿
MiniMax 开源 M3.1 Flash 模型权重，总参数 428B，激活参数 23B，上线 72 小时内真实用户处理 Token 超过 100 万亿。公告还提到稀疏注意力与 QAT 等效率优化细节。
原文：2026/10/23
The Verge · AIAI 评分5555 Switch 2 被用旧游戏和 AI 工具越狱，已运行自定义马里奥赛车世界
The Verge 报道，任天堂 Switch 2 似乎已被越狱，改机者展示了运行自定义版 Mario Kart World 的主机，加入了 Cinnamoroll、红色愤怒的小鸟、Peter Griffin 和 Minecraft 中的 Steve 等新可玩角色。
原文：2026/10/23
AWS Machine Learning BlogAI 评分5757 AWS 用 X.509 PKI 为 AI 智能体建立身份的参考架构
AWS 与 Keyfactor 联合发布参考架构，用 Keyfactor EJBCA 结合 Amazon Bedrock、Strands Agents SDK 等服务，为多智能体系统提供 X.509 证书身份。
原文：2026/10/21
Microsoft ResearchAI 评分5656 微软研究院发布 Flint-interactive 交互式数据可视化语言
微软研究院发布 Flint-interactive，一种在 Flint 之上创建交互式数据可视化的语言，让 AI 智能体能生成支持点击、筛选、缩放、高亮和跨图联动的图表。
原文：2026/10/23
AWS Machine Learning BlogAI 评分6262 Octave 基于 Amazon Bedrock 构建多租户 AI 基础设施的实践
Octave 为受监管行业质量管理平台 Reliance 构建了基于 Amazon Bedrock 的多租户 AI 基础，用 Cohere Embed v4 嵌入 20 亿份文档并落地投诉分诊助手。
原文：2026/10/21
NVIDIA Blog精选AI 评分7272 NVIDIA 扩展跨语言、机器人、生物与量子领域的开源模型组合
NVIDIA 宣布扩展其开源模型家族，覆盖语言、机器人、生物学和量子计算，供开发者和企业用本地数据定制并部署在自有基础设施上。
原文：2026/10/21
推荐理由：官方系统梳理了覆盖语言、机器人、生物、量子多领域的开源模型矩阵及各自落地伙伴，便于对照了解其欧洲主权AI布局全貌。
NVIDIA BlogAI 评分5858 NVIDIA 扩展开源 Agent Toolkit，新增知识基础与安全运行时组件
NVIDIA 宣布扩展开源 Agent Toolkit，新增 Agent Knowledge Foundation、OpenShell 安全运行时和 NemoClaw 蓝图等组件，帮助企业用自有数据支撑智能体并管控其访问与行为。
原文：2026/10/21
NVIDIA BlogAI 评分6262 NVIDIA 推出工厂运营蓝图 FOX，欧洲工业厂商落地智能体与仿真应用
NVIDIA 宣布工厂运营蓝图 FOX 在 GitHub 上线早期访问版本，供开发者构建可协调机器、专注视觉检测、根因分析等场景的工厂管理智能体，可接入 Cosmos、Nemotron 模型及 CAD、PLM 等知识源。
原文：2026/10/21
The Verge · AIAI 评分6262 PHP 两个漏洞波及大量网站，部分服务被迫永久关停
PHP 中发现的两个安全漏洞让大量网站陷入风险，据称多达 70% 的网站在某种程度上使用 PHP，涵盖 Wikipedia、WordPress、Drupal、DeviantArt 和 4Chan 等平台，其中 DeviantArt 和 4Chan 在漏洞披露后一度关停。
原文：2026/10/22
TechCrunch · AIAI 评分5858 OpenAI与Google的Wiz用AI发现PHP存在自2004年以来的两个严重漏洞
美国国家安全局警告称PHP中发现两个严重漏洞，PHP基金会已发布补丁，建议无法立即修补的网站先下线。漏洞自PHP 5版本（2004年发布）起就存在，影响约70%的网站，攻击者可借此侵入服务器文件系统或数据库。
原文：2026/10/22
Simon WillisonAI 评分3838 llm-echo 0.5 更新模拟 token 用量统计
llm-echo 0.5 更新了模拟 token 用量统计，将工具调用、系统提示词和推理 token 纳入计算。该插件提供一个不涉及任何 LLM 的"模型"，仅回显输入的提示词，用于调试。作者称此次更新源于测试 PR 时对插件的重新审视，正为新的 LLM 版本发布做准备。
原文：2026/10/19
Simon WillisonAI 评分4242 Panache —— 基于 Battle Drones 的蒸汽朋克风格法语即时战略游戏分支
一款名为 Panache 的即时战略游戏作为 Battle Drones 的法语分支出现，将背景改为约1900年美好年代的蒸汽朋克法国，加入飞艇、蒸汽战车、Creusot 装甲舰、行进堡垒 Gargantua 等单位，并配有动画开场。
原文：2026/10/22
The DecoderAI 评分5757 Recursive发布由AI研发系统打造的本地编码模型Flint
AI初创公司Recursive发布首个语言模型Flint，一款面向本地硬件智能体编码的MoE模型，总参数400亿、每token激活25亿，四个月内完成。开发全程由名为Eureka Machine的AI系统参与，自主提出想法、构建、测试并规划后续实验，包括选择架构、量化方案和为Apple Silicon与Nvidia RTX Spark构建专用计算内核。
原文：2026/10/22
TechCrunch · AIAI 评分7070 Recursive发布可在笔记本运行的开源编码模型Flint
AI初创公司Recursive发布免费编码模型Flint，可在笔记本本地运行，采用Apache 2.0许可在Hugging Face下载。Flint为混合专家模型，40亿参数中每次任务仅激活25亿，在MacBook Pro上生成约131 tokens每秒，并在SWE-Bench Verified上超过其他50亿参数以下模型。
原文：2026/10/22
Google DeepMind精选AI 评分7878 Google DeepMind 发布 EmbeddingGemma 2 开源多模态嵌入模型
Google DeepMind 发布 EmbeddingGemma 2，一个 740M 参数、Apache 2.0 许可的开源多模态嵌入模型，基于 Gemma 4 架构，可将文本、代码、图像、视频和音频映射到统一嵌入空间。
原文：2026/10/07
推荐理由：官方给出了参数规模、内存占用和上下文长度等具体指标，便于评估端侧多模态嵌入方案的可行性。
Google DeepMindAI 评分5858 Google DeepMind 发布 10 米分辨率全球森林类型地图 ForTy 2020
Google DeepMind 与 Google Research 联合 WRI、IIASA 发布 Forest Typology (ForTy) 2020，将全球每 10×10 米地块划分为原始林、自然再生林、人工林、种植园、树木作物与其他土地六类，并提供 2017 至 2025 年逐年变化时间序列。
原文：2026/10/22
AWS Machine Learning BlogAI 评分6363 i14 在 AWS Trainium2 上训练并部署 Laplace 3B 线性注意力模型
AWS 与 i14 合作，通过 TorchNeuron Native 用原生 PyTorch 在一台 trn2.48xlarge 实例上训练并部署 i14 的 Laplace 3B 线性注意力模型，保留其 Gated Linear Attention 设计与 Muon 优化器。
原文：2026/10/21
AWS Machine Learning BlogAI 评分5858 在AWS Trainium上用torchtitan训练Qwen3的三种配置教程
AWS官方教程演示在单台trn2.48xlarge上用torchtitan训练Qwen3的三种方式：以Transformers v5为建模后端、切换到torchtitan原生Qwen3、以及加入NKI MoE内核。
原文：2026/10/22
AWS Machine Learning BlogAI 评分5858 AWS 教程：用 Strands Agents 构建自适应智能体框架 AAIF
AWS 博客介绍用 Strands Agents 构建的自适应智能体框架 AAIF，通过三层架构把日常请求交给本地 Ollama 上的 llama3.2:1b 编排器与视觉模型处理，复杂请求再经 Amazon Bedrock 调用云端模型，以降低成本和本地延迟。
原文：2026/10/22
AWS Machine Learning BlogAI 评分6565 AWS 团队详解 Deep Insight 多智能体系统的五大生产挑战与解法
AWS Solutions Architecture 团队开源了生产级多智能体系统 Deep Insight，输入 CSV 与自然语言提示即可由 Coordinator、Planner、Supervisor、Coder、Validator、Reporter、Tracker 等智能体协作产出带引用的 DOCX 报告。
原文：2026/10/22
Microsoft Research精选AI 评分7474 微软研究院开源 Agent Lightning v1.0：约3500行的轻量级智能体强化学习框架
微软研究院亚洲院发布并开源 Agent Lightning v1.0，提出 Harnessed Agentic RL 训练范式，让部署所用的 agent harness 直接参与强化学习，无需在训练框架内重新实现 agent。
原文：2026/10/08
推荐理由：文章说明了用真实部署 harness 直接做强化学习的思路及其四个技术难点，可迁移理解训练与部署不一致问题的解法。
Microsoft Research精选AI 评分7272 微软研究院发布零知识证明虚拟机Magnetar
微软研究院发布零知识证明虚拟机Magnetar，可证明Rust、Go或C编写的RISC-V程序执行，在15个基准程序上平均比现有最快zkVM快10至39倍，证明验证约12毫秒。其安全性仅依赖SHA-256或SHA-3等标准哈希函数，不依赖椭圆曲线、格假设或可信设置，是微软十余年零知识证明研究（含Spartan、Phalanx、Nova、BinarySpartan等）的集成成果。
原文：2026/10/16
推荐理由：文章梳理了零知识证明普及的三大障碍及微软十余年研究脉络，便于理解Magnetar各项设计选择的来龙去脉。