arXiv cs.CV· Sofi\`ene Boutaj, Pierre Marza, Varun Belagali, Dimitris Samaras, Maria Vakalopoulou, Stergios Christodoulidis·· 3 小时前AI 评分44
数字病理多教师蒸馏扩展：OMNI 基础模型
Scaling Multi-Teacher Distillation for Digital Pathology
AI 导读
研究提出扩展多教师蒸馏（MTD）的方法，借助可学习 teacher token、定制注意力机制、额外 MoE 层与对比损失学习教师专属表征，使学生编码器随教师数量增加持续受益。
来源：arXiv cs.CV · arxiv.org