跳到正文
原文
AGI Hunt· RandalSchwartz·· 3 小时前AI 评分55

RLHF 砍掉拒绝选项,LLM 编码幻觉被归因于必然承诺

RLHF 砍掉了拒绝选项,LLM 幻觉源于「必然承诺」

AI 导读

Reddit 用户 RandalSchwartz 提出一个解释 LLM 编码幻觉的新框架:问题不在模型忘了文档,而是 RLHF 偏好调优砍掉了拒绝与反提案选项,迫使模型在 Token 1 就无条件承诺。

来源:AGI Hunt · agihunt.info