AGI Hunt· Jiayue Pu·· 4 小时前AI 评分47
人大团队发布递归自我改进综述:定义、风险与可信评估框架
AI 导读
中国人民大学高瓴人工智能学院与中科院大学团队发布综述《大模型时代的可信递归自我改进》,首次给出递归自我改进(RSI)的可操作定义与过程框架。RSI 指 AI 系统利用经验与反馈,持久修改模型、提示、记忆、工具、工作流乃至未来更新机制本身。综述指出自我修改不等于可信改进,将可信 RSI 归为真实持续提升、对齐与公平、系统安全与隐私、透明度四大主题。
来源:AGI Hunt · agihunt.info