Together AI研究推理努力档位成本效应

Together AI 与约翰霍普金斯、康奈尔团队发表论文，测量模型在不同推理努力档位（effort）下的反事实效应，覆盖专有与开源模型、4 个基准，并涵盖单次推理和长程 agent 任务。研究发现，最高推理档位的成本可达最低档位的 42 倍；更高档位虽然提升总体准确率，却常常无法解出低档位本来就能解对的题目。在 agent 场景中，高档位下模型更多进行自我验证与搜索，轨迹被拉长，但未必改变最终结果。作者据此建议用户从低 effort 起步，再按需升级。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。