跳到正文
热点事件持续更新

PyTorch 实验展示温度对 token 采样分布的影响

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

2026年10月25日,AGI Hunt 报道了一项用 PyTorch 做的采样实验,作者固定一组合成 logits、只改温度来观察 token 采样分布如何变化:当温度从 0.2 升到 5.0 时,最高概率 token 的概率从 99.73% 降到 15.58%。报道解释,机制是 logits 不变、仅在 softmax 中除以温度 T,低温放大 logits 之间的差异、高温把分布拉平。实验每档温度做 2 万次采样,并称 T=2 时 128 次采样已覆盖 12 个候选 token。该报道为事件的最新且目前唯一一篇,未出现与早先报道矛盾的数字或说法。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月25日
  1. AGI Hunt
    PyTorch 采样实验:同一组 logits 温度从 0.2 到 5.0,最高 token 概率从 99.7% 跌到 15.6%

    作者用 PyTorch 做固定 logits、仅改温度的采样实验:温度从 0.2 到 5.0,最高 token 概率从 99.73% 降到 15.58%。logits 不变,仅 softmax 除以 T:低温放大 logits 差异,高温拉平分布。实验用固定合成 logits、每档温度 2 万次采样,T=2 时 128 次采样已覆盖 12 个候选 token。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。