跳到正文
原文
AGI Hunt· sethlazar·· 4 小时前AI 评分33

PKirgis 团队让模型自改对齐文档迭代 20 轮,实验设计引赞叹

研究者让模型自改对齐文档迭代20轮,实验设计引赞叹

AI 导读

PKirgis 团队把前沿 AI 公司用于引导模型道德取向的宪法、model spec、系统提示词等对齐文档交给模型自己修订,每轮由模型提出一处实质性修订并合并进文档,如此迭代 20 次,观察模型道德取向如何漂移。sethlazar 转发评价该实验设计巧妙、结果非常有趣,并指出原帖仅为推文串开头,具体结论在后续推文中。

来源:AGI Hunt · agihunt.info