AGI Hunt· ryanshrout·· 4 小时前AI 评分39
AMD 官方晒账:MI355X 软件调优叠加 vLLM 升级,输出 token 成本直降 31%
AMD 官方晒账:MI355X 软件调优叠加 vLLM 升级,吐 token 成本直降 31%
AI 导读
AMD 高管 Ryan Shrout 引用 Signal65 的 PINNACLE 实测称,MI355X 在 MiniMax-M3 推理上同节点、同负载、同 vLLM 构建,仅更换 AMD 官方 serving 配置,峰值吞吐提升 11%,轻载下单 agent 解码速度提升 2.4 倍。
来源:AGI Hunt · agihunt.info