热点事件持续更新
566GB MiMo-2.6-Pro 挤进 128GB Jetson
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026 年 10 月 17 日报道,一名开发者把约 566GB(FP8)的 MiMo-2.6-Pro 模型塞进了仅有 128GB 内存的 Jetson AGX Thor,首次运行速度仅为 0.646 tokens/秒。报道称,推理过程中需要从磁盘读取权重,并逐层挤出 token。作者表示,此举是为回应 Dario「开源至少能看源码」的说法,因此逐层追踪并记录了每个 decoder layer、路由 expert 以及 SSD 读取过程,整个过程可以逐步回放。目前该实验尚停留在单次运行的实测演示阶段,报道未提及进一步的性能优化或复现结果。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
10月17日
- AGI Hunt硬核玩梗:566GB 的 MiMo-2.6-Pro 塞进 128GB Jetson AGX Thor,跑出 0.646 tok/s
一名开发者把约 566GB(FP8)的 MiMo-2.6-Pro 塞进仅 128GB 内存的 Jetson AGX Thor,首跑速度 0.646 tokens/秒,推理中途需从磁盘读取权重、逐层挤出 token。为回应 Dario「开源至少能看源码」的说法,作者逐层追踪并记录了每个 decoder layer、路由 expert 和 SSD 读取过程,可逐步回放。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。