独立开发者 3 年半自研 Leviathan 本地 LLM 推理套件开源

一位自费开发 3.5 年的作者将 Leviathan 开源，这是一套纯本地 LLM 推理工具集，模型直接跑在 GPU 上，中间不经过 server，也不依赖 llama.cpp 或 LM Studio。