热点事件持续更新
4台DGX Spark本地部署GLM-4.6-Flash
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年10月25日,开发者 tenhkspark 公开了一套用 4 台 DGX Spark(每台 128GB 统一内存)搭建全本地推理集群的完整配置方案,以 1M 上下文长度、16 路并发运行 GLM 系列模型(GLM-4.6-Flash)。据该报道,官方推荐的安装方式无法达到这样的上下文长度与并发数,因此他更换了推理加载器,并对部分修改做了代码审计,确认安全。该仓库以 MIT 协议开源,内含 perf-test 等实测脚本,还附有 Nemotron Parse 在 GB10 上的自建方法。
AI 根据报道生成 · 3 小时前更新
最新进展10月25日 11:54
开发者 tenhkspark 开源 4 台 DGX Spark 集群配置方案,实现 1M 上下文、16 并发本地推理。报道时间线
沿着报道,了解事件的不同侧面。
10月25日
- AGI Hunt4 台 DGX Spark 集群跑 GLM-4.6-Flash:1M 上下文、16 并发的本地部署配方
开发者 tenhkspark 公开了用 4 台 DGX Spark(各 128GB 统一内存)搭建全本地推理集群的完整配方,以 1M 上下文、16 路并发运行 GLM 系列模型。官方推荐装法达不到该上下文与并发数,因此他更换推理加载器,修改部分经代码审计确认安全。仓库以 MIT 协议开源,含 perf-test 等实测脚本,并附 Nemotron Parse 在 GB10 上的自建方法。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。