跳到正文
原文
AGI Hunt· vigmarcarlo·· 4 小时前AI 评分59

OntoPrune 剪掉 83% 上下文,本地 CPU 首 token 提速 6.7 倍

AI 导读

作者 vigmarcarlo 开源了 OntoPrune,一个面向本地小编码模型的纯离线 Python 上下文剪枝中间件,把源码解析成带本体的知识图谱,用 SPARQL 抽取当前函数的 1-hop 闭包并渲染回类型化 Python stub,再用契约 AST 校验模型生成代码。

来源:AGI Hunt · agihunt.info