跳到正文
原文
AGI Hunt· marian_nmt·· 4 小时前AI 评分42

NVIDIA DGX Spark 被 Linux 隐藏 4.1 GiB 内存,两个技巧找回

DGX Spark 被系统隐藏内存 两个技巧找回 4.1 GiB

AI 导读

开发者 Marcin Junczys-Dowmunt 发现 Linux 默认未将 NVIDIA DGX Spark 的 128 GB 统一内存全部暴露,其中 4.1 GiB 被隐藏。他通过安装 64 KiB 内核以减少 vmemmap 开销等两个手段找回这部分内存,并公开了代码仓库。实测找回后 KV 池可扩大到原来的 3.6 倍,对大模型推理性能有实际意义。

来源:AGI Hunt · agihunt.info