AGI Hunt· l0g1cs·· 4 小时前AI 评分58
Graphsignal 推出推理 GPU 版 top 命令 graphsignal-top，按耗时给 kernel 排名
Graphsignal 推出推理 GPU 版 top:按耗时给 kernel 排名,一眼看出 NCCL 占了四分之一 GPU 时间
AI 导读
开源推理分析器 Graphsignal 新增 graphsignal-top，相当于推理 GPU 的 top 命令，用 graphsignal-run 包住 vllm serve 或 sglang serve 启动、另开终端运行即可实时查看。
来源：AGI Hunt · agihunt.info