跳到正文
原文
AGI Hunt· Storge2·· 5 小时前AI 评分35

RTX 5070 12GB 本地实测:社区模型 Jev 1.13 延迟仅为同类本地 LLM 的 1/4

RTX 5070 12GB 本地实测:社区模型延迟仅为同类本地 LLM 的四分之一

AI 导读

作者在 RTX 5070 12GB 上实测社区微调模型 Jev 1.13(Jebadiah 9B V2,基于 Qwen 3.5 9B),与 4 个本地 LLM 对比 20 项任务,称同等质量下延迟仅为对比模型的约 1/4。作者评价其表现「amazing」。该测试属社区个人基准,样本量小,仅供参考。

来源:AGI Hunt · agihunt.info