arXiv cs.CL· Faisal Ladhak, Shantanu Acharya, Santiago Akle Serano, Simeng Sun, Boris Ginsburg, Krishna C Puvvada·· 3 小时前AI 评分50
论文提出 ELR 训练配方,让循环语言模型单次循环不再掉分
One Model to Loop Them All: Elastic Latent Recurrence for Language Models
AI 导读
论文提出 Elastic Latent Recurrence(ELR)训练配方,使循环语言模型在单次循环下的服务成本与同尺寸非循环模型相同、精度相近,后续每次循环再用更多推理算力换取精度。
来源:arXiv cs.CL · arxiv.org