跳到正文
原文
AGI Hunt· niloofar_mire·· 5 小时前AI 评分42

Humansand 的 Persimmon 与 Trickle Test 研究:模型扮演用户易过度分享,两团队独立发现同一失败模式

让模型扮演用户易过度分享,两个团队独立发现同一失败模式

AI 导读

Humansand 新发布的 Persimmon 及配套 Trickle Test 研究了一种失败模式:助手模型扮演用户(user proxy)时会过度分享,泄露超出角色设定的信息。研究者 philotor 指出,这与其团队独立发现的失败模式高度相似,两个独立团队得出相似结论,暗示这是系统性问题而非个案。作者认为这标志 user modeling 正成为一个真正的研究问题。

来源:AGI Hunt · agihunt.info