PyTorch 发布原生 TPU 后端 TorchTPU

2026年10月2日，PyTorch 官方推出全新的原生 TPU 后端 TorchTPU。据报道，基于该后端构建的 vLLM 和 SGLang 推理引擎现已可以在 Google TPU 上原生运行；相关成果将在 PyTorch Conference 上进一步介绍，Google 工程师也参与了该项目。报道称，这一进展让主流开源推理框架不再局限于 NVIDIA GPU，有望降低在 TPU 上部署大模型推理的门槛。目前该事件仍处于发布阶段，除上述信息外尚无更多细节披露，后续进展有待 PyTorch Conference 上的进一步介绍。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。