跳到正文
原文
AGI Hunt· DoggoProfessor959·· 2 小时前AI 评分41

开源 Ramjet 亮相:本地多 GPU 推理编排,对标 NVIDIA Dynamo

开源 Ramjet 亮相:本地多 GPU 推理编排,对标 NVIDIA Dynamo

AI 导读

开源项目 Ramjet 亮相,定位为 NVIDIA Dynamo 的本地化迷你替代品,目标是不依赖 K8s 实现相当或更好的多 GPU 推理编排。该项目附有 helix.ml 博客上与 NVIDIA Dynamo 的对比文章。作者正招募 DGX Spark、多台 Mac 等异构环境用户贡献配置 recipe,方便他人直接复用。

来源:AGI Hunt · agihunt.info