跳到正文
原文
AGI Hunt· jwt0625·· 5 小时前AI 评分33

「散养 token」梗图:为你的蠢问题点亮整个 NVL576 集群

「散养 token」梗图:为你的蠢问题点亮整个 NVL576 集群

AI 导读

AI 圈流传一段设想算力过剩未来的梗文,提出「散养 token」「走地 token」:为无聊问题点亮整个 NVL576 集群,模型权重在节点间自由漫游、随意重分片,KV cache 在 HBM/DDR/SSD 间自由迁移,「从未被 batch 过,人道认证」。现在的 token 则是「笼养」的:塞进单 GPU 切片、按最大 batch size 接近满载跑。

来源:AGI Hunt · agihunt.info