跳到正文
原文
AGI Hunt· realmrfakename·· 3 小时前AI 评分45

单张 AMD MI325X 本地跑 DeepSeek 552B:四个 agent 并发各约 100 tok/s

单张 AMD MI325X 跑 DeepSeek 552B:四 agent 同时 100 tok/s

AI 导读

lxe 在单张 256GB AMD MI325X 上本地运行 552B 的 DeepSeek-V4.1-Flash-1017,四个编程 agent 并发时每会话约 100 decode tokens/s。

来源:AGI Hunt · agihunt.info