跳到正文
原文
AGI Hunt· SeoulNatlUniv·· 3 小时前AI 评分44

LayerTrim:免训练剪枝保住推理模型 AIME 能力

AI 导读

首尔国立大学联合 NYU、USC 发布免训练结构化剪枝方法 LayerTrim,保住推理型语言模型在 AIME 等长链推理任务上的能力。它识别并删除冗余 decoder 层,选择性裁剪 MLP 特征、保留注意力与 decoder 深度,从而降低推理成本并缩短生成长度。

来源:AGI Hunt · agihunt.info