LAMB：面向拉丁语的 ModernBERT 上下文编码器

基于 ModernBERT 的拉丁语编码器 LAMB 在 17 个子任务中 16 个优于其他被测模型，第 17 项距 SOTA 差 0.8 个百分点。它采用形态学信息驱动的掩码方案，分两阶段在超过 74B 拉丁语 token 上预训练。