AGI Hunt· bengoertzel·· 4 小时前AI 评分32
Goertzel 谈递归自改进的安全:GOLEM 架构加 Iter Omega 运行时稳住目标漂移
Goertzel 谈递归自改进的安全:GOLEM 架构加 Iter Omega 运行时稳住目标漂移
AI 导读
Ben Goertzel 提出用 GOLEM 元架构与 Iter Omega 运行时组合,让递归自我改进(RSI)以连续、可反思的方式修改目标,缓解「RSI 下的目标改变」引发的目标漂移。这属于其 AGI 计划第 5 步:为蜂群提供默认动机系统,引导其做出有益行为,并对合理的自我修改与环境变化保持稳健;第 4 步要求构建功能分化但共享符号知识库的蜂群。
来源:AGI Hunt · agihunt.info