AIHOT 精选·· 8 天前AI 评分58
RadixArk 联合 Google 与 Meta 开源 SGLang-TorchTPU，让 SGLang 在 TPU 上原生提供 PyTorch 生产级推理
AI 导读
RadixArk 的 SGLang 团队与 Google、Meta 合作开源 SGLang-TorchTPU，这是一个原生 PyTorch 后端，把 SGLang 完整服务栈带到 Google Cloud TPU，让同一引擎既能在 GPU 也能在 TPU 上服务模型。
这篇内容暂未取得可阅读的正文，目前提供中文导读和原文入口。节目介绍或原站公开片段不代表完整文章。
来源：AIHOT 精选 · aihot.news