热点事件持续更新
开源推理引擎单卡3090跑DeepSeek-V4.1量化版
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月28日，Reddit 用户 musicurgy 开源了推理引擎 delta-inference-engine，主打在消费级硬件上运行大模型量化版本。据 AGI Hunt 当日报道，该引擎可在 Windows 原生环境下，用单张 RTX 3090 显卡搭配 192GB 内存，以约 41 tok/s 的速度运行 DeepSeek-V4.1-Flash-1017 的 Q2 GGUF 量化模型，该模型体积达 366GB，并支持完整的 1M 上下文。目前这是该事件的首篇公开报道，尚无其他来源给出复现结果或横向性能对比；报道中的速度与内存占用数据均来自原作者一方。
AI 根据报道生成 · 1 小时前更新
最新进展10月28日 08:39
引擎已开源，单张3090加192GB内存跑366GB量化模型约41 tok/s。报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- AGI Hunt开源引擎 delta-inference-engine 在单张 RTX 3090 上以 41 tok/s 运行 DeepSeek-V4.1-Flash 量化版
Reddit 用户 musicurgy 开源推理引擎 delta-inference-engine，可在 Windows 原生环境用单张 RTX 3090 加 192GB 内存以约 41 tok/s 运行 DeepSeek-V4.1-Flash-1017 的 Q2 GGUF（366GB），并支持完整 1M 上下文。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。