跳到正文
热点事件持续更新

开源推理引擎 Spite 发布:模型、GPU、算子三层可插拔

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

2026 年 10 月 5 日,开发者发布用 Rust 编写的开源模块化推理引擎 Spite。据 AGI Hunt 报道,其核心设计规则是每一层都可独立替换而不影响其他层,共分为模型、GPU、算子三层,均做成模块化可插拔。其中模型内核按 kernels/<家族>/<模型>/ 的目录结构组织,新增模型只需添加一个文件夹,由 dispatcher 自动发现,无需改动其他部分;GPU 内核则按 sm89、rdna3、Apple M4 等硬件分目录,各自利用 FP8 tensor core、Neural Engine 等对应硬件特性。目前公开报道仅介绍了这一架构设计与目录组织方式,尚未披露支持的模型清单、性能数据或后续发布计划。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月5日
  1. AGI Hunt
    开源推理引擎 Spite:模型、GPU、算子三层全部模块化可插拔

    开发者发布用 Rust 编写的开源模块化推理引擎 Spite,核心设计规则是每一层都可独立替换而不影响其他层。模型内核按 kernels/<家族>/<模型>/ 组织,新增模型只需添加文件夹并由 dispatcher 自动发现,GPU 内核则按 sm89、rdna3、Apple M4 等分目录,各自利用 FP8 tensor core 或 Neural Engine 等硬件特性。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。