跳到正文
原文
AGI Hunt· a16z·· 3 小时前AI 评分40

a16z 对谈:递归自我改进不等于失控起飞,效率也在提升

AI 导读

a16z 对谈中,Martin Casado 与 MakerMaker.AI 团队认为,真正的递归自我改进(RSI)是被改进系统同时也在执行改进的闭环,并不必然导致失控起飞。衡量真实进展需同时考虑能力增益与所需资源,早期研究显示自我改进系统能在提升性能的同时提高效率。他们指出大多数 RSI 论文无法规模化,因此选择从推理侧切入。

来源:AGI Hunt · agihunt.info