Hugging Face 将直播讲解投机解码为本地大模型提速

Hugging Face 将于 10 月 19 日举办本地 AI 系列第 202 期直播，主题为投机解码（Speculative Decoding）。直播由 @mervenoyann、@MaartenGr 和 @EldarKurtic 参与，含三个演讲及问答环节，讲解如何利用该技术将本地大语言模型推理速度提升数倍。