AGI Hunt· Kangwook_Lee·· 1 天前AI 评分28
蒸馏到 2B 模型,在消费级 GPU 上实时驱动游戏 AI NPC
蒸馏到 2B 模型跑消费级 GPU,实时驱动游戏 AI NPC
AI 导读
团队把 AI NPC 模型蒸馏到 2B 参数的 LLM,可运行在消费级 GPU 上,支撑游戏角色的近实时交互。做法是先做 SFT 与 off-policy KD,再用 agentic OPD(on-policy distillation)跟进。团队认为用 API 原型化 AI NPC 没有问题,但 API 很难做到近实时交互。
来源:AGI Hunt · agihunt.info