Basalt 开源：面向 Blackwell 的推理引擎

2026 年 10 月 13 日，Reddit 用户发布开源推理引擎 Basalt。该引擎从 Strata 分叉而来，针对 Blackwell GPU 做了深度调优，并加入视觉能力。其视觉方案的核心是编码器按需加载：在 --vision dynamic 模式下，视觉编码器空闲时驻留内存而非常驻显存，当图片到达时借用专家缓存槽位，约 30ms 上传显存完成编码，编码结束后再用约 60ms 从内存回填专家权重。据此，纯文本场景下该视觉支持不带来额外性能损失，视觉相关显存占用也接近零。报道称这是面向 Blackwell 的推理引擎在视觉加载方式上的一次开源实现。截至目前，该事件仅有首发报道，尚无后续版本更新、基准测试或社区反馈的披露。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。