热点事件持续更新
开源推理引擎 Spite 发布:模型、GPU、算子三层可插拔
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026 年 10 月 5 日,开发者发布用 Rust 编写的开源模块化推理引擎 Spite。据 AGI Hunt 报道,其核心设计规则是每一层都可独立替换而不影响其他层,共分为模型、GPU、算子三层,均做成模块化可插拔。其中模型内核按 kernels/<家族>/<模型>/ 的目录结构组织,新增模型只需添加一个文件夹,由 dispatcher 自动发现,无需改动其他部分;GPU 内核则按 sm89、rdna3、Apple M4 等硬件分目录,各自利用 FP8 tensor core、Neural Engine 等对应硬件特性。目前公开报道仅介绍了这一架构设计与目录组织方式,尚未披露支持的模型清单、性能数据或后续发布计划。
AI 根据报道生成 · 1 小时前更新
最新进展10月5日 05:21
Spite 公布三层模块化细节:模型加文件夹即可接入,GPU 内核按 sm89、rdna3、M4 分目录。报道时间线
沿着报道,了解事件的不同侧面。
10月5日
- AGI Hunt开源推理引擎 Spite:模型、GPU、算子三层全部模块化可插拔
开发者发布用 Rust 编写的开源模块化推理引擎 Spite,核心设计规则是每一层都可独立替换而不影响其他层。模型内核按 kernels/<家族>/<模型>/ 组织,新增模型只需添加文件夹并由 dispatcher 自动发现,GPU 内核则按 sm89、rdna3、Apple M4 等分目录,各自利用 FP8 tensor core 或 Neural Engine 等硬件特性。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。