跳到正文
原文
arXiv cs.CL· Nan Jiang, Panagiotis Theodoropoulos, Wei Deng·· 3 小时前AI 评分43

PreSTO:面向快速 LLM Power Sampling 的预测性子树预取

PreSTO: Predictive Subtree Prefetching for Fast LLM Power Sampling

AI 导读

PreSTO 用预测性子树预取

来源:arXiv cs.CL · arxiv.org