DuoLM：紧凑编码器+排序器让 LLM 推荐实现高吞吐在线服务

Google DeepMind、UC Irvine 与 Oracle 研究者提出 DuoLM，通过紧凑编码器与轻量排序器让 LLM 个性化推荐实现高吞吐在线服务。该框架用编码器 LLM 离线学习紧凑物品表示供运行时复用，并配合优化推理，在几乎不损失推荐质量的前提下提升吞吐。论文还分析了 ID-based 双塔模型只靠交互数据训练的局限。