AGI Hunt· teortaxesTex·· 11 小时前AI 评分36
DeepSeek-V4.1-Flash 昇腾 950DT 部署单卡解码达 5800 TPS,遭质疑吞吐偏低
DeepSeek V4.1-Flash 昇腾 950DT 部署单卡解码达 5800 TPS,遭质疑实际吞吐偏低
AI 导读
开发者 Leroy Li 称,32 张华为昇腾 950DT 以 FP8-FP4 混合精度部署 DeepSeek-V4.1-Flash,128K 长序列单卡解码达 5800 TPS、时延 13.79 ms。网友 teortaxesTex 质疑该成绩偏低,仅为 DSpark 报告中 DeepSeek V4-Flash 单 GPU 成绩的三分之一,或需更大部署单元或 npugraphex 优化。
来源:AGI Hunt · agihunt.info