arXiv cs.CL· Vedant Pandhare, Piyush Dhoka·· 3 小时前AI 评分38
校准语言如何影响 Qwen2.5、Llama-3.2 与 Gemma-2 的 Block Influence 剪枝
Calibration Language Shapes Block-Influence Pruning in Multilingual Language Models
AI 导读
Block Influence(BI)剪枝选中的 block 随校准语言变化:在 Qwen2.5-1.5B-Instruct、Llama-3.2-1B、Gemma-2-2B 上,Hindi、Marathi、Tamil 的 late-block BI 比英语高 20.7-55.5%,被移除的低 BI block 随之不同。
来源:arXiv cs.CL · arxiv.org