跳到正文
原文
IT之家·· 3 小时前AI 评分46

英特尔面向四至六代至强处理器推出推理微服务:自动检测硬件并配置 vLLM 参数

AI 导读

英特尔推出 Intel Inference Microservices,面向第四至六代至强处理器,提供自动检测硬件并套用预验证 vLLM 调优参数的容器化 LLM 推理服务。

来源:IT之家 · ithome.com