AGI Hunt· antoine_chaffin·· 2 小时前AI 评分49
Perplexity decider 4B 由 27B 大模型蒸馏信号训练,登 4B 档榜首
AI 导读
Perplexity decider 4B 由 27B 大模型的蒸馏信号训练,登上 4B 档榜首,与 27B 共享 attention schema、训练配方等全部设计决策,唯一区别是学习来源。该家族以 27B/4B 双尺寸开源,推理最快提速 5 倍;27B 的 decider v1.2 在 Decision Index 排第 3,新域分数反低于上代,官方用 model souping 缓解回归。
来源:AGI Hunt · agihunt.info