AGI Hunt· srchvrs·· 3 小时前AI 评分48
EMNLP 2026 论文《To MRL or not to MRL》:非 MRL 模型嵌入对截断出乎意料地稳健
EMNLP 论文:非 MRL 模型嵌入对截断出乎意料地稳健
AI 导读
EMNLP 2026 Findings 论文《To MRL or not to MRL》发现,除非把嵌入压缩至少 80%,非 MRL 模型的截断嵌入与 MRL 模型相当甚至更好,截断稳健性未必来自 MRL 训练。MRL 需预先确定截断维度并带来额外训练成本,因此除非需要极端压缩,跳过 MRL 更简单省钱。代码已开源可复现。
来源:AGI Hunt · agihunt.info