SiliconANGLE:AI· Victoria Gayton·· 3 小时前AI 评分37
Nvidia 将 AI 工厂经济性与 token 和能效挂钩
Nvidia ties AI factory economics to tokens and power efficiency
AI 导读
Nvidia 的 Ian Buck 称,AI 工厂的经济性正从单颗 GPU 转向 token 产出与每瓦能效,整个数据中心须作为一套计算系统协同运转。推理是商用产出而训练未被取代;Groq 3 LPX 可与 Vera Rubin 平台配合,提升时延敏感负载的 token 速率。
来源:SiliconANGLE:AI · siliconangle.com