AGI Hunt· saheedniyi_02·· 2 小时前AI 评分31
trydecideAI 推出 Nerve-1:34M 参数小模型在 CPU 上做模型路由,号称省 30% 推理成本
34M 参数小模型 Nerve-1 在 CPU 上做模型路由,号称省 30% 推理成本
AI 导读
trydecideAI 团队宣布完成从零训练的首个模型 Nerve-1,约 3400 万参数、用超过 230 亿 token 训练的轻量路由模型,完全跑在普通 CPU 上并毫秒级做出路由决策。团队估计它可将推理成本降低至少 30%,即将向其平台的全部企业和用户推出。该 30% 为团队自估,有待实测验证。
来源:AGI Hunt · agihunt.info