arXiv cs.CL· Anjila Budathoki, Manish Dhakal, Benjamin M. Ampel, Yi Ding·· 2 天前AI 评分43
理解提示词模板在知识蒸馏中对安全对齐的作用
Understanding the Role of Prompt Template in Knowledge Distillation for Safety Alignment
AI 导读
在从教师到学生的知识蒸馏中，提示词模板选择会显著削弱学生模型已有的安全对齐：聊天模板比非聊天模板让模型更顺从有害查询。该现象在 LLaMA、Gemma 和千问（Qwen）三个模型家族及多个安全基准上一致。非聊天模板蒸馏更能保留学生模型内部表示，聊天模板蒸馏则导致更大的表示偏移。
来源：arXiv cs.CL · arxiv.org