NVIDIA 与 Cedana 推单节点托管编码模型组合方案

2026年10月2日，Cedana 与 NVIDIA 联合推出一套方案：单台 8×B200 节点即可托管整套前沿编码模型组合，不必为每个模型单独部署节点。据 AGI Hunt 报道，该方案中 NVIDIA Dynamo 负责 serving、NVIDIA NeMo Switchyard 负责路由，Cedana 则承担模型切换，可在约 1 分钟内完成带会话状态的模型切换，即切换过程中保留会话上下文。目前披露的信息集中在方案组成与切换耗时，尚无部署规模、性能或成本等更多数据。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。