单卡 RTX 3090 同时跑 4 个编码 agent：自研 CUDA 引擎运行 Qwen3.8-27B 达 290 tok/s

开发者用自研 CUDA 引擎在一张 RTX 3090 上运行 Qwen3.8-27B，同时服务 4 个编码 agent，总吞吐约 290 tok/s。该速度达到 llama-server --parallel 的 3-4 倍。演示附有视频，属于本地推理优化与并发服务的实机成果。