跳到正文
原文
AGI Hunt· uw-madison·· 4 小时前AI 评分44

Pristine Models 预训练时分仓存储不安全知识,推理时直接摘除

AI 导读

威斯康星大学麦迪逊分校与 Adobe Research 提出文生图架构 Pristine Models,在预训练阶段用注意力机制把安全与不安全知识分离到独立参数化的分支,推理时直接摘掉不安全分支,而非事后做概念遗忘。该方法在 ImageNet 上生成更安全,图像质量与文本对齐度均优于仅用安全数据训练或事后概念移除,并在更大的 CC12M 数据集上依然有效(arXiv 2610.15420)。

来源:AGI Hunt · agihunt.info