arXiv cs.CL· Samar Ansari·· 2 小时前AI 评分44
指令微调安装并强化语言模型中的数字选择启发式
3, 7, 14, 17, 42: Instruction Tuning Installs and Sharpens Number-Choice Heuristics in Language Models
AI 导读
无需采样的精确测量显示，指令微调让 15 对开源模型对 1 到 N 随机整数的取值分布全部更不均匀。微调新引入回避整十数字的启发式，并强化回避端点 1 和 N：基座模型返回端点的概率为中间数值的 0.30 到 0.60，微调后几乎不再返回。研究覆盖 18 个开源模型线、29 种解码配置与最高 N=100 的五档范围，未发现跨模型共享的偏好整数。
来源：arXiv cs.CL · arxiv.org