跳到正文
原文
arXiv cs.CL· David Reber, James Reber, Ari Holtzman, Victor Veitch·· 3 小时前AI 评分40

LLM 能否预判自身的决策关键分歧点?

Can LLMs Anticipate Their Cruxes?

AI 导读

研究显示 LLM 难以事先预判自身决策的关键分歧点(crux):其先验判断与事后从推理中实际识别的重要因素几乎没有关联,单次 rollout 虽有帮助仍不足以覆盖完整集合。该研究比较了三种计算成本递增的策略,其中多 rollout 对比方案借助廉价 reranker 调用实现,估算算力仅为 judge 的 1/86。高风险决策仍需采用多 rollout 流程。

来源:arXiv cs.CL · arxiv.org