AGI Hunt· burny_tech·· 4 小时前AI 评分47
Anthropic 发布自动化对齐研究员研究,探索让 Claude 自主开展对齐研究
Anthropic 发布自动化对齐研究员研究
AI 导读
Anthropic Fellows 项目发布《Automated Alignment Researchers》研究,探索用大语言模型扩展「可扩展监督」,让 Claude 自主开展对齐研究、帮助对齐模型自身。实验采用 AAR 设置验证弱到强监督路径,社区博主 burnytech 转发详解后引发关注。
来源:AGI Hunt · agihunt.info