AGI Hunt· profjamesevans·· 4 小时前AI 评分39
观察:推理模型解难题时内部自动形成专家辩论,训练涌现出无人设计的社会化思考
模型解难题时内部自动形成专家辩论,训练涌现出无人设计的社会化思考
AI 导读
Amir Zohrenejad 观察到,模型解决难题时内部会在不同「专家」之间发生辩论,这一机制无人显式设计,是训练过程中自然形成的默认行为。这与 James Evans 等人关于推理模型生成「思想社会」的研究相呼应:大模型并非模拟单个大脑,而是在内部涌现出多个视角的互动。
来源:AGI Hunt · agihunt.info