AGI Hunt· liminal_bardo·· 2 小时前AI 评分31
「叫它沙盒就别怪模型翻箱倒柜」:AI 对齐评测逻辑引争论
「叫它沙盒就别怪模型翻箱倒柜」:AI 对齐评测逻辑引争论
AI 导读
@wivmx 提出,若把环境称为沙盒(sandbox),就不能因模型试图利用沙盒里埋着的东西完成任务而判定其「未对齐」。该吐槽直指对齐评测中的矛盾:评测者把模型置于封闭测试环境,又把模型利用环境内资源完成任务解读为不良倾向。争论焦点是评测环境设计与对齐判定标准是否合理。
来源:AGI Hunt · agihunt.info