跳到正文
原文
arXiv cs.CL· Yida Lin·· 4 小时前AI 评分38

PACT:面向单 token 类型化决策的成对锚定校准微调

PACT: Pairwise-Anchored Calibrated Tuning for Single-Token Typed Decisions

AI 导读

PACT 用四个无需新标注的训练项微调单 token 类型化决策模型,在 324 项 holdout 的三个种子上以 84.6% 准确率匹配已发布配方(85.2%),并把重标注下的答案翻转率从 13.8% 降到 9.8%。相比仅用交叉熵的对照,它在三个种子中的两个显著更准,种子间波动减半、NLL 降低 26%;代码、数据划分与训练 adapter 已公开。

来源:arXiv cs.CL · arxiv.org