arXiv cs.CL· Yida Lin·· 4 小时前AI 评分38
PACT:面向单 token 类型化决策的成对锚定校准微调
PACT: Pairwise-Anchored Calibrated Tuning for Single-Token Typed Decisions
AI 导读
PACT 用四个无需新标注的训练项微调单 token 类型化决策模型,在 324 项 holdout 的三个种子上以 84.6% 准确率匹配已发布配方(85.2%),并把重标注下的答案翻转率从 13.8% 降到 9.8%。相比仅用交叉熵的对照,它在三个种子中的两个显著更准,种子间波动减半、NLL 降低 26%;代码、数据划分与训练 adapter 已公开。
来源:arXiv cs.CL · arxiv.org