跳到正文
原文
AGI Hunt· khademinori·· 4 小时前AI 评分31

让 LLM 在 1-10 间选数:分布尖锐扎堆 7,人类则宽散得多

让 LLM 在 1-10 间选数:分布尖锐扎堆 7,人类则宽散得多

AI 导读

一张广为流传的对比图显示,让 LLM「在 1 到 10 之间选一个数」时,其选择分布极度集中在 7 附近,呈狭窄尖峰;人类分布则宽得多,在 5-8 之间起伏但仍覆盖低数字区间,随机选择是水平直线。转发者评论称,训练目标把模型推向数据的众数,注定缺乏随机性,理解梯度下降原理就不会对此感到意外。

来源:AGI Hunt · agihunt.info