Cherimoya v0.3.1 合入融合版 DeepLIFT,归因提速约7倍
先了解这件事
2026 年 10 月 26 日,Cherimoya 发布 v0.3.1,合入社区 PR 的融合版 DeepLIFT。据 AGI Hunt 报道,同规模模型的 DeepLIFT 归因因此获得约 7 倍提速;该框架约含 7.5k 个 DNase+ATAC 基因组模型,此前即使轻量模型也长期受归因瓶颈制约。同日报道解释原理:融合版 DeepLIFT 把覆盖梯度、纳入参考值的归因逻辑直接编译进模型计算路径,并依托 tangermeme 省去为各层挂 hook 的开销。同一版本中,CATv1 模型已接入 proto-tools 供设计使用。随后开发者 jmschreiber91 进一步解析实现:把 DeepLIFT 重写为独立计算图,不再依赖通用 hooks 机制,输入序列可直接输出归因结果,该实现直接铺陈在特定的 Cherimoya 模型上,加速基础在于 PyTorch 对通用计算图的优化;作者也讨论了融合方案的成本特征与性能权衡。
AI 根据报道生成 · 1 小时前更新
事件进展
- 10月26日 23:19 · 1 篇报道开发者将DeepLIFT改写为独立计算图实现端到端归因AGI Hunt:开发者将 DeepLIFT 重写为独立计算图,实现端到端归因
- 10月26日 23:17 · 1 篇报道解析 fused DeepLIFT 实现:提速约 7 倍AGI Hunt:fused DeepLIFT 解析:绕开 hook 融合计算图,提速约 7 倍
- 10月26日 23:13 · 2 篇报道Cherimoya 融合版 DeepLIFT 提速约7倍AGI Hunt:Cherimoya 融合版 DeepLIFT 合入 v0.3.1,同规模模型归因提速约 7 倍
报道时间线
沿着报道,了解事件的不同侧面。
- AGI Hunt开发者将 DeepLIFT 重写为独立计算图,实现端到端归因
jmschreiber91 把 DeepLIFT 重写为独立计算图,不再依赖通用 hooks 机制,输入序列可直接输出归因结果。该实现直接铺陈在特定的 Cherimoya 模型上,让归因计算随计算图自动融合。其加速基础在于 PyTorch 对通用计算图的优化能力。
- AGI Huntfused DeepLIFT 解析:绕开 hook 融合计算图,提速约 7 倍
jmschreiber91 解析 fused DeepLIFT 的实现:将梯度改写直接融合进计算图,据称比 hook 方案快约 7 倍。DeepLIFT 通过覆盖梯度运算、把参考值纳入归因计算来解释模型,通用实现需给各层挂 hooks,开销较大;作者也讨论了融合方案的成本特征与性能权衡。
- AGI Hunt什么是融合版 DeepLIFT:绕开 hook 的梯度改写如何快 7 倍
融合版 DeepLIFT 把覆盖梯度、纳入参考值的归因逻辑直接编译进模型计算路径,依托 tangermeme 省去给各层挂 hook 的开销,带来约 7 倍提速。该融合实现已合入 Cherimoya v0.3.1,同规模模型的归因速度提升约 7 倍。
- AGI HuntCherimoya 融合版 DeepLIFT 合入 v0.3.1,同规模模型归因提速约 7 倍
Cherimoya 发布 v0.3.1,合入社区 PR 的融合版 DeepLIFT,对同规模模型的 DeepLIFT 归因带来约 7 倍提速。该框架约含 7.5k 个 DNase+ATAC 基因组模型,此前即使轻量模型也长期受归因瓶颈制约。同时 CATv1 模型已接入 proto-tools 供设计使用。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。