热点事件持续更新

Hazy Research 闭式构造最优事实存储 MLP

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

2026 年 10 月，AGI Hunt 报道了 Hazy Research 团队入选 COLM 2026 的论文。该研究指出，LLM 的事实存储密度已达到信息论最优速率，而这些事实存储在模型的 MLP 权重之中。团队进一步展示了无需训练、以闭式（closed-form）方法构造出的 MLP，其存储事实的速率同样达到信息论最优。这类构造出的 MLP 可以直接嵌入 Transformer 结构，并完成事实回忆任务。报道称，这一结果为理解模型中的知识存储机制、以及手工编写模型中的知识提供了一条新路径。目前该工作以论文形式公开，尚无更多后续进展披露。

AI 根据报道生成 · 5 小时前更新

报道时间线

沿着报道，了解事件的不同侧面。

10月7日

21:35
AGI Hunt
COLM 2026 论文：LLM 事实存储达信息论最优率的闭式构造法
Hazy Research 团队的 COLM 2026 论文发现，LLM 的事实存储密度已达信息论最优速率，事实存储在 MLP 权重中。团队展示了无需训练、以闭式（closed-form）方法构造出能以信息论最优速率存储事实的 MLP。这些 MLP 可直接嵌入 Transformer 结构完成事实回忆任务，为理解与手工编写模型中的知识存储提供了新路径。

本事件热度走势

当前热度 9·可比范围峰值 10（10月7日 22:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。