跳到正文
原文
AGI Hunt· Kangwook_Lee·· 1 天前AI 评分28

蒸馏到 2B 模型,在消费级 GPU 上实时驱动游戏 AI NPC

蒸馏到 2B 模型跑消费级 GPU,实时驱动游戏 AI NPC

AI 导读

团队把 AI NPC 模型蒸馏到 2B 参数的 LLM,可运行在消费级 GPU 上,支撑游戏角色的近实时交互。做法是先做 SFT 与 off-policy KD,再用 agentic OPD(on-policy distillation)跟进。团队认为用 API 原型化 AI NPC 没有问题,但 API 很难做到近实时交互。

来源:AGI Hunt · agihunt.info