跳到正文
原文
AGI Hunt· BlackHC·· 12 小时前AI 评分39

前 Google DeepMind 研究员 BlackHC 发布共享核心 KV cache 的绑定 Transformer

前DeepMind研究员发布共享核心KV cache的绑定Transformer

AI 导读

前 Google DeepMind 研究员 BlackHC 发布离职后首个研究项目:一种 LSTM 风格的绑定 Transformer,全模型仅保留一份共享核心 KV cache。

来源:AGI Hunt · agihunt.info