温度0不等于可复现：batch与归约顺序影响输出

2026年10月7日，AGI Hunt 发布 JFPuget 与 AIQuanting 的讨论：在大模型推理中把 temperature 设为 0，并不能得到确定性的、可复现的输出。讨论指出，温度设 0 只是移除了采样环节，而 batch 形状、kernel 的归约顺序，以及任务最终落到哪块 GPU 上，都会改变最终计算出的 logits，使输出依旧出现波动。因此“温度 0 = 可复现”被指为一种常见误解，其根源是浮点并行计算本身的非确定性，无法靠调参消除。目前该事件的最新进展仍是这一讨论被整理发布，提示仅依赖固定随机种子或温度参数来保证结果一致并不可靠。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。