AGI Hunt· AccBalanced·· 3 小时前AI 评分61
SGLang 与 RadixArk 发布 MegaKernel + PD 分离方案，兼顾吞吐与延迟并优化 TCO
SGLang MegaKernel+PD 发布：高并发吞吐与低延迟兼得，TCO 大幅优化
AI 导读
SGLang 与 RadixArk 团队发布 MegaKernel + PD 分离方案，同时提升高并发吞吐与低延迟服务表现，SemiAnalysis 对此表示祝贺。
来源：AGI Hunt · agihunt.info