AGI Hunt· lucasbennett_1·· 5 小时前AI 评分50
数据不出楼的 LLM 栈:最易漏的泄漏点在 OCR 和评测环节
数据不出楼的 LLM 栈:最易漏的泄漏点在 OCR 和评测环节
AI 导读
开发者分享「数据不出楼」本地 LLM 栈经验:本地跑模型不难,泄漏多来自不经意的第三方 HTTP 调用。最易漏的是文档解析/OCR 与评测:PDF 常在 chunking 前调用云解析器,评测则把 prompt 发给托管 judge 或 tracing 面板。建议换用 LiteParse 等开源解析器、本地 judge 与自托管 tracing。
来源:AGI Hunt · agihunt.info