DeepSeek-V4.1-Flash EXL3-3bpw 量化版发布

2026年10月25日，据 AGI Hunt 报道，Diffbot 在 Hugging Face 发布了 DeepSeek-V4.1-Flash 的 EXL3-3bpw 量化版。报道称，该量化版可在两张 RTX PRO 6000 显卡上运行，两张卡合计 192GB 显存；它主要面向显存有限的本地部署用户，目的是降低运行该模型所需的显存占用。除上述发布信息外，报道未给出量化后的精度损失、推理速度、模型体积或其他硬件配置下的运行情况等细节，也未提及发布时间表、许可条款或与全精度版本的对比数据。目前仅有这一篇报道，后续进展尚待观察。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。