跳到正文
原文
AGI Hunt· tianyin_xu·· 4 小时前AI 评分41

SOSP'26 论文《Beyond Utilization》:面向能耗的 GPU 共享方案,重思推理服务利用率

SOSP'26 论文:面向能耗的 GPU 共享方案,重思推理服务利用率

AI 导读

NeerajaJY 团队的 SOSP'26 论文《Beyond Utilization: Energy-Conscious GPU Sharing for Inference Serving》已在会议现场报告。论文主张推理服务的 GPU 共享不应只看利用率,而要引入能耗视角,并提出能耗感知的 GPU 共享方案。

来源:AGI Hunt · agihunt.info