Geodes Research 与 Redwood Research：可从预训练中过滤掉颠覆性策略相关信息

Geodes Research 与 Redwood Research 合作发布研究笔记，证明在三个 30B 参数 LLM 的预训练数据中移除与监控设计及成功颠覆策略相关的信息，技术上可行。该做法旨在降低模型暗中破坏对齐监督的能力。