跳到正文
原文
AGI Hunt· profjamesevans·· 4 小时前AI 评分39

观察:推理模型解难题时内部自动形成专家辩论,训练涌现出无人设计的社会化思考

模型解难题时内部自动形成专家辩论,训练涌现出无人设计的社会化思考

AI 导读

Amir Zohrenejad 观察到,模型解决难题时内部会在不同「专家」之间发生辩论,这一机制无人显式设计,是训练过程中自然形成的默认行为。这与 James Evans 等人关于推理模型生成「思想社会」的研究相呼应:大模型并非模拟单个大脑,而是在内部涌现出多个视角的互动。

来源:AGI Hunt · agihunt.info