AGI Hunt· brandon_galang·· 3 小时前AI 评分45
大模型调度便宜小模型省 token?brandon_galang:多数人低估了决策质量的代价
大模型调度便宜小模型省 token?作者:多数人低估了决策质量的代价
AI 导读
brandon_galang 反对把大模型任务委派给更便宜的小模型省 token:小模型的错误决策会在复杂任务上复利累积,而聪明模型能用更少轮次完成工作。他称时薪 150 美元以上的高杠杆工作者为省 30 美元 token 多花一两小时并不划算,但阅读、研究类任务若有把握匹配小模型复杂度阈值仍可委派。
来源:AGI Hunt · agihunt.info