AGI Hunt· teortaxesTex·· 2 小时前AI 评分39
DeepSeek 被指最擅长榨干消费级 GPU:内存带宽优先架构或成王牌
AI 导读
AI 评论账号 teortaxesTex 推测,DeepSeek 完全有能力解锁 3090/4090 的峰值矩阵乘性能,因其架构正是「内存带宽最便宜」的设计,实验所用骨干小于 22B。该推测源自「推理 99% 受内存带宽限制」的讨论,坊间亦有 DeepSeek 内部在做单消费级 GPU 模型的传闻。若推出面向消费级 GPU 的模型,将大幅降低本地推理门槛。
来源:AGI Hunt · agihunt.info