AGI Hunt· Distinct-Pie2389·· 6 小时前AI 评分57
开源工具 Berth 发布,为单卡多引擎调度 GPU 显存
单卡多引擎不再爆显存:开源工具 Berth 给 GPU 加 VRAM 租约调度
AI 导读
Reddit 用户 Distinct-Pie2389 发布开源工具 Berth,用于解决单张 RTX 4090 上同时运行 llama-swap、llama.cpp、Ollama、ComfyUI 等多个引擎时的 CUDA 显存冲突。
来源:AGI Hunt · agihunt.info