热点事件持续更新
二手V100三卡跑Qwen近400 tokens/秒
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Reddit 用户 jfinkpottery 自研推理引擎 sfnx,在老旧 Dell R740 服务器中用 3 张二手 V100 32GB(Volta 架构)运行 Qwen-Flash-Next,生成速度接近 400 tokens/秒。该引擎从 strata 分叉而来,核心针对老一代 Volta GPU 从头构建,代码已在 GitHub 开源,展示了以廉价二手硬件运行新模型的可行路线。目前进展停留在该用户个人实测与开源发布层面,尚无第三方复现或厂商回应。
AI 根据报道生成 · 2 小时前更新
最新进展10月27日 05:11
Reddit 用户开源 sfnx 引擎,3 张二手 V100 跑 Qwen 近 400 tokens/秒。报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- AGI HuntReddit 用户用 3 张二手 V100 跑 Qwen-Flash-Next,近 400 tokens/秒
Reddit 用户 jfinkpottery 自研推理引擎 sfnx,在老旧 Dell R740 服务器里用 3 张二手 V100 32GB(Volta 架构)让 Qwen-Flash-Next 跑出近 400 tokens/秒的生成速度。该引擎从 strata 分叉而来,核心针对老一代 Volta GPU 从头构建,代码已在 GitHub 开源,展示了用廉价二手硬件跑新模型的可行路线。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。