跳到正文
原文
AGI Hunt· alifcoder·· 4 小时前AI 评分56

rockmatrix-ai 开源多模态模型 EdgeRock,256K 上下文 KV cache 仅 72 MiB

EdgeRock 开源多模态模型,256K 上下文 KV cache 仅 72 MiB

AI 导读

rockmatrix-ai 发布并开源多模态模型 EdgeRock,主打恒定内存下的强推理,生成复杂度为 O(N)、历史记忆为 O(1)。该模型在 256K 上下文下每序列的 attention KV cache 恒定为 72 MiB,比 Qwen3.5-4B 小 99.1%。

来源:AGI Hunt · agihunt.info