跳到正文
原文
AGI Hunt· zsakib_·· 2 小时前AI 评分26

GRPO 后训练会令分布坍缩,长程 Agent 时代反成隐患

GRPO 后训练会令分布坍缩,长程 Agent 时代反成隐患

AI 导读

yacinelearning 指出,用 GRPO 做后训练会让模型坍缩到一小组潜在答案上,出现分布上的「诡异锐化」,而在某些场景这正是想要的效果。但到了 2026 年,模型越来越多地运行在长时间执行的 harness 中,需要 LLM 思考多种不同解法并组合式地行动,分布坍缩与这种用法存在冲突。

来源:AGI Hunt · agihunt.info