跳到正文
原文
AGI Hunt· EvolvingDior·· 5 小时前AI 评分48

DDR5 超频实测:MoE 模型显存外推理提速最高 14%

AI 导读

AMD 7950X + 128GB DDR5 平台上,用 llama.cpp 定制 SYCL 后端在 Intel B70 32GB 显卡跑装不下显存的 MoE 模型,内存从 3600MHz 超到 4800MHz 后带宽提升 36%。

来源:AGI Hunt · agihunt.info