跳到正文
原文
arXiv cs.CL· Denglin Jiang (New York University), Annie Wang (New York University)·· 4 小时前AI 评分34

社会世界模型的评估缺口:一项覆盖 113 项研究的审计

The Social World Model Evaluation Gap

AI 导读

对 113 项社会世界模型相关研究的审计显示,仅 9 项测量真实对象对系统所选动作的反应,只有 2 项进一步比较了明确给出的反应预测与真实反应。对 25 项语言模型研究的全文核查未发现满足上述条件的实验,其余评估测的是当前状态推断、任务成功率或基于记录动作的预测。作者还提出一个 1-step 谈判实验以区分这些问题,并说明结论仅描述所审计样本。

来源:arXiv cs.CL · arxiv.org