AGI Hunt· GabGarrett·· 4 小时前AI 评分63
Strata DualGPU 开源:双 NVIDIA 显卡在 32GB 内存 PC 上协同推理,解码提速 5.6 倍
Strata DualGPU:双 NVIDIA 显卡+32GB 内存,解码提速 5.6 倍
AI 导读
开源项目 Strata DualGPU 让两块不同的 NVIDIA GPU 在仅 32GB 内存的 PC 上协同推理,开发者在 RTX 5080 与 RTX 4060 Ti 上实测 Qwen3.8 Flash Next(256K 上下文),代码解码从单卡 29 tok/s 提升到 143 tok/s。
来源:AGI Hunt · agihunt.info