跳到正文
原文
AGI Hunt· dosco·· 5 小时前AI 评分37

中学生为自研推理引擎 Artisan 手写 Metal RMSNorm 内核,运行 DeepSeek-R1-Distill-Qwen-1.5B

中学生为自研推理引擎手写 Metal RMSNorm 内核,运行 DeepSeek 蒸馏模型

AI 导读

一名中学生发布自研推理引擎 Artisan,用 Metal 手写 RMSNorm 内核,在 Apple Silicon 上运行 DeepSeek-R1-Distill-Qwen-1.5B。项目已在 GitHub 发布,目前仍在做 benchmark 和优化。

来源:AGI Hunt · agihunt.info