arXiv cs.CL· Taro Yano, Yoichi Ishibashi, Masafumi Oyamada·· 4 小时前AI 评分46
尾部竞争解释了可验证问题中 Best-of-N 采样的扩展规律
Tail Competition Explains Scaling in Best-of-N Sampling for Verifiable Problems
AI 导读
研究把 Best-of-N 采样看作正确答案与错误回答奖励尾部的竞争,用极值理论区分正确尾部主导、错误尾部主导与临界三种渐近状态,解释采样增益与奖励黑客导致的退化。
来源:arXiv cs.CL · arxiv.org