跳到正文
原文
AGI Hunt· _reachsumit·· 3 小时前AI 评分37

Deco 论文把推荐模型「思考」与「拼写」解耦,吞吐提升至 8.6 倍

AI 导读

arXiv 论文提出 Deco(decoding from concepts),把生成式推荐中生成下一物品概念与 SID beam search 解码解耦,在 50ms p95 延迟预算下吞吐提升 3.2–8.6 倍。

来源:AGI Hunt · agihunt.info