跳到正文
原文
AGI Hunt· Mean-Disaster8380·· 3 小时前AI 评分43

ASRN 新架构:线性内存长程复制,256k 长文仅 69ms

AI 导读

Reddit 用户发布 ASRN 语言模型层,线性内存实现长程精确复制。A100 上 256k token 往返耗时 ASRN 1.0 为 69ms,优于 Mamba-2 的 174ms 和 RWKV-7 的 519ms。实验规模 ≤50M 参数,DOI 与 GitHub 代码已开源。

来源:AGI Hunt · agihunt.info