arXiv cs.CV· Wenhan Yang, Anirudh Rao, Ashwin Chandra·· 4 小时前AI 评分35
HAWK：重新思考投机解码中的多模态草稿模型
HAWK: Rethinking Multimodal Drafting for Speculative Decoding
AI 导读
HAWK 提出面向大型视觉语言模型投机解码的新方法：用表征相似度选取目标模型中有信息量的层并学习组合其隐藏状态，同时把目标模型压缩后的视觉隐藏状态直接提供给草稿模型，而非原始视觉 token。
来源：arXiv cs.CV · arxiv.org