跳到正文
原文
AGI Hunt· burny_tech·· 4 小时前AI 评分47

Anthropic 发布自动化对齐研究员研究,探索让 Claude 自主开展对齐研究

Anthropic 发布自动化对齐研究员研究

AI 导读

Anthropic Fellows 项目发布《Automated Alignment Researchers》研究,探索用大语言模型扩展「可扩展监督」,让 Claude 自主开展对齐研究、帮助对齐模型自身。实验采用 AAR 设置验证弱到强监督路径,社区博主 burnytech 转发详解后引发关注。

来源:AGI Hunt · agihunt.info