热点事件持续更新
TWIG:把神经网络权重表示为离散决策路径
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026 年 10 月 26 日,AGI Hunt 报道称,ITMO 大学 LEAD Lab 提出一种名为 TWIG 的权重表示方法:把每个权重表示为一条小离散决策路径的终点,路径上的取值包括符号、2 的幂移位、零门控和共享表索引,并且相关权重共享路径上的同一段。报道称,任意训练好的网络都可以写成 TWIG 形式;当决策取 2 的幂时,权重层几乎全由连线与加法器构成电路,因此适合权重在流片时固定的芯片。报道还称,该方法把剪枝、量化、低秩分解、码本与权重共享统一为对同一对象的编辑,决策选择可形式化为基态问题并借助成熟求解器优化。目前该工作仍处于论文提出阶段,报道未提及实验规模或落地部署情况。
AI 根据报道生成 · 2 小时前更新
最新进展10月26日 13:17
ITMO LEAD Lab 提出 TWIG,将权重表示为离散决策路径,统一压缩与电路化部署。报道时间线
沿着报道,了解事件的不同侧面。
10月26日
- AGI HuntITMO LEAD Lab 提出 TWIG:权重即离散决策路径,统一压缩与电路化部署
ITMO 大学 LEAD Lab 提出 TWIG,把每个权重表示为一条小离散决策路径的终点:符号、2 的幂移位、零门控、共享表索引,相关权重共享路径上段。任意训练好的网络都可写成 TWIG;决策取 2 的幂时,权重层几乎全由连线与加法器构成电路,适合权重在流片时固定的芯片。剪枝、量化、低秩分解、码本与权重共享被统一为对同一对象的编辑,决策选择可形式化为基态问题并借助成熟求解器优化。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。