AGI Hunt· marian_nmt·· 4 小时前AI 评分42
NVIDIA DGX Spark 被 Linux 隐藏 4.1 GiB 内存,两个技巧找回
DGX Spark 被系统隐藏内存 两个技巧找回 4.1 GiB
AI 导读
开发者 Marcin Junczys-Dowmunt 发现 Linux 默认未将 NVIDIA DGX Spark 的 128 GB 统一内存全部暴露,其中 4.1 GiB 被隐藏。他通过安装 64 KiB 内核以减少 vmemmap 开销等两个手段找回这部分内存,并公开了代码仓库。实测找回后 KV 池可扩大到原来的 3.6 倍,对大模型推理性能有实际意义。
来源:AGI Hunt · agihunt.info