跳到正文
原文
AGI Hunt· mgostIH·· 2 小时前AI 评分30

Sol 6.1 慢到「秒/token」,开发者被迫开 10 个并行会话

Sol 6.1 慢到「秒/ token」,用户被迫开 10 个并行会话

AI 导读

开发者 mgostIH 吐槽 Sol 6.1 推理速度慢到以「每 token 秒数」而非「每秒 token 数」计量,只能同时开 10 个并行会话来弥补。他配梗图自嘲这一体验,随后成为 AI 圈流传的模型速度翻车名场面。

来源:AGI Hunt · agihunt.info