跳到正文
原文
AGI Hunt· maier_ak·· 43 分钟前AI 评分33

FAU Erlangen-Nürnberg 研究:不同任务将神经网络权重拉向不同聚类

研究发现不同任务将神经网络权重拉向不同聚类

AI 导读

FAU Erlangen-Nürnberg 等机构团队在《Frontiers in Cognition》发表论文,发现不同学习任务会把训练中的神经网络拉向权重空间里的不同聚类。研究者在 MNIST、Fashion-MNIST 和 KMNIST 上各训练多个小型网络,在消除神经元置换与 ReLU 相关对称性等因素后,四次更新权重即发生聚类。结果表明,同一架构在不同任务下并非殊途同归。

来源:AGI Hunt · agihunt.info