arXiv cs.CL· Jinhyeok Kim, Hye-Young Jung·· 4 小时前AI 评分36
Penalty-Framed No-Valid-Option MCQA:分析无效选项下的 LLM 弃答行为
Penalty-Framed No-Valid-Option MCQA: Analyzing LLM Abstention under Invalid Choices
AI 导读
研究提出 penalty-framed no-valid-option MCQA 设定,在 MMLU-Pro 数学子集上移除标注正确选项、允许模型选择剩余项或输出 ABSTAIN,并惩罚无效的强行作答,发现高 MCQA 准确率不能完全保证弃答可靠性。
来源:arXiv cs.CL · arxiv.org