arXiv cs.CL· Hare Krishna·· 3 小时前AI 评分24
掩码文本重建中的语料采样分歧预测
Forecasting Corpus-Sampling Disagreement in Masked Text Reconstruction
AI 导读
研究提出用相邻 token 对计数构建平滑预测器，以可仅凭参考语料评估的一阶公式，预测掩码文本重建中两份独立语料间的输出分歧，覆盖完整 50,257-token GPT-2 词表。
来源：arXiv cs.CL · arxiv.org