IBM完成Spyre加速器PyTorch生态落地

IBM 与 Red Hat 及 PyTorch Foundation 中的 Meta、Hugging Face 等合作者推进的 Spyre 加速器软件生态更新已落地，包括 torch-spyre 后端、Spyre vLLM 插件、编译器改进与持续集成测试。 IBM 称 vLLM 已获得早期支持，并通过 Spyre 插件在 Gemma 4、Qwen3、Granite 4.2 等模型上验证了该路径。在 NVIDIA H100 GPU 上，这些硬件无关层的总 token 吞吐量与原生实现的差距在 3.4% 以内（三个近期模型的几何平均值）。

AI 根据报道生成 · 1 天前更新