跳到正文
原文
AGI Hunt· yrrah1·· 6 小时前AI 评分32

Reddit 长文思辨:ASI 会持续给人类"跑分",因为人类是它无法合成的数据源

Reddit 长文思辨:ASI 会持续给我们"跑分",因为人类是它无法合成的数据源

AI 导读

Reddit 用户 yrrah1 提出,当给模型跑分的时代结束,ASI 可能反过来给人类"跑分",因为人类是它无法合成的数据源。他认为人类是发散、不理性、能生成训练无法复现怪异解法的"噪音",而收敛训练的模型面临 model collapse 与缺乏新颖性的问题。但作者也自我反驳:信息上有价值不等于自由,人类已在 RLHF 打分、招聘排序、推荐 A/B 测试中被"薄切"跑分。

来源:AGI Hunt · agihunt.info