AGI Hunt· JensHonack·· 2 小时前AI 评分52
为何 temperature 0 仍不确定:Qwen3-235B 同一 prompt 跑 1000 次出 80 种答案
temperature 0 为何不确定:Qwen3-235B 跑千次出 80 种答案
AI 导读
Avi Chawla 的技术长文解释了 LLM 在 temperature 0 下推理仍不确定的原因:贪心解码每步选最高 logit 的 token 本身确定,不确定性来自 logit 的计算过程。
来源:AGI Hunt · agihunt.info