跳到正文
原文
AGI Hunt· No-Paper-557·· 3 小时前AI 评分36

DeepSeek-V4.1-Flash EXL3-3bpw 量化版可在双卡 RTX PRO 6000 上运行

AI 导读

Diffbot 在 Hugging Face 发布 DeepSeek-V4.1-Flash 的 EXL3-3bpw 量化版,可在两张 RTX PRO 6000(共 192GB 显存)上运行。该版本面向显存有限的本地部署用户,降低运行该模型所需的显存占用。

来源:AGI Hunt · agihunt.info