跳到正文
原文
AGI Hunt· HaggaiMaron·· 14 小时前AI 评分34

CrossGMN:让神经网络在权重空间压缩改写其他神经网络

AI 导读

CrossGMN 提出直接在权重空间中学习把已训练模型变换为不同架构,蒸馏步骤最高可加速 8.89 倍。该论文由 Adir Dayan、Haggai Maron 等人完成,是「用神经网络学习压缩其他神经网络」的第一步,作者在推文中用长线程逐步展开思路。

来源:AGI Hunt · agihunt.info