跳到正文
原文
AGI Hunt· willcb·· 2 小时前AI 评分30

willcb:模型对齐应借鉴人类已有机制,而非从零推理

研究者称模型对齐应借鉴人类已有机制

AI 导读

willcb 提出,大模型对齐不应被当作全新事物、从定义不清的第一性原理从零推理,而应直接改造那些在人类身上已被验证有效的对齐机制。他还回应「公司由人组成所以默认对齐」的说法,指出公司也由计算机构成,只是通常但不总是对齐,语言模型同样是人类与计算机的产物。

来源:AGI Hunt · agihunt.info