跳到正文
原文
AGI Hunt· GodComplecs·· 4 小时前AI 评分31

Strata 模型实测:agent 负载约 100 tokens/s,但端口占用问题频发

Strata 模型实测:agent 负载 100 tks 但端口占用问题频发

AI 导读

Reddit 用户实测显示,Strata 模型在 agent 工作负载下约 100 tokens/s,而类似尺寸的 Qwen 27B 在 llama.cpp 上只有 40-60 tks。

来源:AGI Hunt · agihunt.info