跳到正文
原文
AGI Hunt· tianyin_xu·· 4 小时前AI 评分38

EnerTune 登 SOSP'26:推理能耗较 SOTA 降低 1.4–2.3 倍

AI 导读

EnerTune 将在 SOSP '26 上发表,直接以能耗为优化目标进行调优,相比 SOTA 推理服务系统降低能耗 1.4–2.3 倍。该系统在满足性能目标的前提下追求能效,是面向 LLM 推理基础设施的能效优化工作。

来源:AGI Hunt · agihunt.info