便宜模型跑Agent总成本反而更高

2026年10月27日，AGI Hunt 报道援引 jdpruettt 的观点：在 agent 框架里运行便宜模型，总成本常常反而高于前沿模型。原因在于，经 RL 后训练、带有简洁性惩罚的前沿模型会激进使用并行工具调用，把多个步骤合并成批处理；而较弱的模型只能串行执行，每一步都要多跑一轮往返，几十次循环下来不断撑大上下文窗口，从而推高总成本。作者据此提醒，为 agent 挑选更便宜的模型时，要把模型“把多轮折叠成一轮”的能力也算进这笔账。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。