arXiv cs.CL· Oladimeji Anthonio, Dimeji Olawuyi, Oloruntoba Ajayi, Temilola Aderemi·· 4 小时前AI 评分35
五种架构，一个共享空间：无需权重合并的跨模型表征对齐
Five Architectures, One Shared Space Cross-Model Representational Alignment Without Weight Merging
AI 导读
五个独立训练、架构各异的冻结模型（四个 Transformer 与一个状态空间模型）仅凭激活值即可对齐，无需合并权重。由此构建的共享空间在最终层对 20 组模型配对的平均留出检索准确率达 0.91-0.93（随机为 0.03），优于成对线性映射的 0.82-0.85，但中间层更差，且在数学与逻辑符号上失效。基于该空间的路由在四类任务上均为负结果，未胜过始终使用最强模型。
来源：arXiv cs.CL · arxiv.org