跳到正文
原文
AGI Hunt· natesiggard·· 4 小时前AI 评分57

natesiggard 分享本地模型提示词技巧:明确要求放开 token 用量

本地模型提示词技巧:让它「放开用 token」否则默认省着花

AI 导读

natesiggard 分享本地推理的一个观察,本地模型没有按 token 计费的成本压力,但不在提示词里明确要求,它们仍会默认省着用 token、尽快收尾。他的做法是在提示词里明确告诉模型放开用 token、需要跑多久就跑多久、不要自我约束,这一句话就能显著改变本地模型的推理深度和输出长度。他把这称为跑开源模型的人可以零成本获得的收益。

来源:AGI Hunt · agihunt.info