跳到正文
原文
arXiv cs.CL· Vedant Pandhare, Piyush Dhoka·· 3 小时前AI 评分38

校准语言如何影响 Qwen2.5、Llama-3.2 与 Gemma-2 的 Block Influence 剪枝

Calibration Language Shapes Block-Influence Pruning in Multilingual Language Models

AI 导读

Block Influence(BI)剪枝选中的 block 随校准语言变化:在 Qwen2.5-1.5B-Instruct、Llama-3.2-1B、Gemma-2-2B 上,Hindi、Marathi、Tamil 的 late-block BI 比英语高 20.7-55.5%,被移除的低 BI block 随之不同。

来源:arXiv cs.CL · arxiv.org