AGI Hunt· gerardsans·· 4 小时前AI 评分36
「LLM 没有自我、没有信念」:一次前向传播与心智的本质区别
「LLM 没有自我、没有信念」:一次前向传播与心智的本质区别
AI 导读
gerardsans 发文论证用「自我/信念/目标」描述 LLM 是范畴错误:LLM 输出局部、无状态,一次查询、一个上下文窗口,采样自权重已冻结的训练分布。残差流中没有东西能存活到下一次调用,唯一「记忆」是上次上下文加最后一个 token,且要靠产品把文本贴回去——那是转录,不是心智。其结论是「文本进,文本出」,这些词描述的是人,而非一次前向传播。
来源:AGI Hunt · agihunt.info