arXiv cs.AI· Yunbo Long, WenJie Chen, Jiaquan Zhang, Guangya Hao, Zihang Zeng, Pengze Li, Xi Chen·· 4 小时前AI 评分33
SPECTRUM：面向代码生成循环自蒸馏的近端谱调制
SPECTRUM: Proximal Spectral Modulation for Looped Self-Distillation
AI 导读
SPECTRUM 每轮从固定参考锚点重新估计损失敏感的 key/value 几何，并将其转换为满秩近端谱调制，在 MBPP 五轮循环自蒸馏后保留初始模型 64 样本正确 AST 丰富度的 89.9%。
来源：arXiv cs.AI · arxiv.org