12.5K 星 GitHub 仓库 Train LLM From Scratch 用纯 PyTorch 实现从预训练到 GRPO 全流程

GitHub 仓库 Train LLM From Scratch 已获 12.5K 星，用纯 PyTorch 手写 Transformer，覆盖从预训练、SFT、奖励建模到 DPO、ORPO、KTO、PPO、GRPO 的完整流程，不依赖 trl、peft、transformers。