跳到正文
热点事件持续更新

双RTX 3090本地跑Qwen 35B:第二卡收益有限

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

2026年10月14日,AGI Hunt 报道一位开发者用两张二手 RTX 3090 24GB 攒了一台本地 LLM 机器,在 Ubuntu 上以 llama.cpp 测试 Qwen 35B A3B 的 GGUF 量化与上下文长度。测试发现:当单张卡就能装下模型时,加第二张卡的收益不及预期;上下文拉长后,prefill 阶段还会明显变慢。这与该事件此前“双卡收益有限”的概括一致,本次报道补充了具体测试环境(Ubuntu + llama.cpp)、模型(Qwen 35B A3B)与观察点(GGUF 量化、上下文长度、prefill 耗时)。目前公开信息仅为这位开发者的个人实测,未见进一步验证或后续更新。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月14日
  1. AGI Hunt
    二手双 RTX 3090 本地跑 LLM:装好了却没快多少,瓶颈在哪?

    一位开发者用二手 2×RTX 3090 24GB 攒了台本地 LLM 机器,以 Ubuntu + llama.cpp 测试 Qwen 35B A3B 的 GGUF 量化与上下文长度,发现单卡装得下时加第二张卡收益不及预期,长上下文还会明显拉长 prefill。

本事件热度走势

当前热度 9·可比范围峰值 10(10月14日 18:00)·近 24 小时可比范围变化 –

02.557.51010月14日18:0010月14日19:0010月14日19:0010月14日20:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。