AGI Hunt· Nearby_Indication474·· 3 小时前AI 评分42
不用 RAG 不微调：开发者把记忆张量注入冻结的 Qwen2.5-7B-Instruct 第 3 层
不用 RAG 不微调：把记忆张量直接注入冻结 LLM 第 3 层
AI 导读
开发者让冻结的 Qwen2.5-7B-Instruct 读入事实一次，把第 3 层残差表示 H3 与 0-3 层 attention K/V 打包成「记忆卡带」，回答时在第 3 层边界注入，全程无梯度更新与 LoRA。
来源：AGI Hunt · agihunt.info