跳到正文
原文
AGI Hunt· A_K_Nain·· 4 小时前AI 评分42

PallasForge 新增 Hopper GPU BF16 与 W8A16 融合内核教程

AI 导读

PallasForge 更新了面向 Hopper GPU 的 Pallas 内核教学示例,新增 BF16 matmul 入门内核与 W8A16 融合反量化内核,后者在寄存器中将 INT8 权重 tile 转为 BF16 直接供 WGMMA 使用,省去一次共享内存写入。

来源:AGI Hunt · agihunt.info