跳到正文
原文
AGI Hunt· EAccelerate_42·· 3 小时前AI 评分38

本地 AI 测速别只发 tok/s 截图:一份可信对比应包含 5 项指标

AI 导读

EAccelerator42 提出本地 AI 评测的规范性主张:只有 tokens/s 截图的对比没有意义,有用的基准应展示模型与量化方案、硬件与上下文长度、首 token 延迟(TTFT)、解码速度、实际完成的任务这 5 项指标。核心观点是输出快固然好,把任务真正做完才是目的。

来源:AGI Hunt · agihunt.info