跳到正文
热点事件持续更新

二手V100三卡跑Qwen近400 tokens/秒

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Reddit 用户 jfinkpottery 自研推理引擎 sfnx,在老旧 Dell R740 服务器中用 3 张二手 V100 32GB(Volta 架构)运行 Qwen-Flash-Next,生成速度接近 400 tokens/秒。该引擎从 strata 分叉而来,核心针对老一代 Volta GPU 从头构建,代码已在 GitHub 开源,展示了以廉价二手硬件运行新模型的可行路线。目前进展停留在该用户个人实测与开源发布层面,尚无第三方复现或厂商回应。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. AGI Hunt
    Reddit 用户用 3 张二手 V100 跑 Qwen-Flash-Next,近 400 tokens/秒

    Reddit 用户 jfinkpottery 自研推理引擎 sfnx,在老旧 Dell R740 服务器里用 3 张二手 V100 32GB(Volta 架构)让 Qwen-Flash-Next 跑出近 400 tokens/秒的生成速度。该引擎从 strata 分叉而来,核心针对老一代 Volta GPU 从头构建,代码已在 GitHub 开源,展示了用廉价二手硬件跑新模型的可行路线。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。