跳到正文
原文
AGI Hunt· josh_wills·· 3 小时前AI 评分42

Cedana 联手 NVIDIA:单台 8×B200 节点托管整套编码模型组合

AI 导读

Cedana 与 NVIDIA 联合推出方案,单台 8×B200 节点可托管整套前沿编码模型组合。NVIDIA Dynamo 负责 serving、NeMo Switchyard 负责路由,Cedana 约 1 分钟内完成带会话状态的模型切换。

来源:AGI Hunt · agihunt.info