AGI Hunt· AryHHAry·· 1 天前AI 评分45
回应 Bengio 智能爆炸警告:先失控的不是智力而是吞吐量
回应 Bengio 智能爆炸警告:先失控的不是智力而是吞吐量
AI 导读
针对 Yoshua Bengio 关于 AI 自动化研发或致失控智能爆炸的论文,一位印尼语作者提出,先被检测到的不是智力跃升而是吞吐量跃升。依据是实验室代码多数已由机器编写、少量监督下 R&D 占比快速上升、算力效率翻倍、单位里程碑成本下降。他强调搜索路径的正循环不等于理解路径的正循环:自动化实验远比自动化因果审计容易,可解释性若只线性推进,能力与可追溯性的鸿沟会扩大。
来源:AGI Hunt · agihunt.info