跳到正文
原文
AGI Hunt· davidmanheim·· 4 小时前AI 评分23

David Manheim:RL 后训练算力账——权重更新每回合一次,算训练还是推理?

RL 后训练算力账:权重更新每回合一次,究竟算训练还是推理?

AI 导读

David Manheim 回应 Ben Todd 的 RL 算力构成讨论:每次权重更新的计算开销更大,但每个 RL 回合只做一次更新。因此按回合摊算,后训练 RL 中的这部分算力反而更接近推理算力的口径,而非训练算力。这段细节辨析涉及 RL 训练与推理算力占比如何归类,对估算 AI 算力分布有参考意义。

来源:AGI Hunt · agihunt.info