Thinking Machines 发布 LoRA 优化器 Dimuon

Thinking Machines 旗下 Tinker 团队发布专为 LoRA 微调设计的优化器 Dimuon，在监督微调（SFT）测试中常能以更少步数取得优于 AdamW 的效果，收敛速度更快。该优化器被视为有望取代 AdamW，成为 LoRA 微调的新选择。