Jev 等小模型路由比 LLM 快 200 倍、便宜 400 倍，AI 软件架构走向分层智能

Pavan Belagatti 提出 AI 软件架构正走向分层智能：由确定性代码维护工作流结构，快速专用小模型处理窄域语义分支，只在异常情况下才升级调用完整推理模型。其中 system-one 小模型（如 Jev）做路由比 LLM 快约 200 倍、便宜约 400 倍。LangGraph 这类框架提供状态管理、持久化执行与人机协同检查点等编排层。