AGI Hunt· petrusenko_max·· 1 小时前AI 评分36
研究称 LLM 幻觉在数学上不可避免,RAG 是唯一解药
研究称 LLM 幻觉在数学上不可避免,RAG 是唯一解药
AI 导读
有研究者将 LLM 建模为概率图灵机,论证幻觉无法被彻底修复,唯一出路是把 RAG 当作"神谕机"实时访问外部真实信息。当模型只依赖内部参数时,幻觉在不可计算性与信息论的硬限制下是数学上必然的。其提出的 AI 安全规则是任务复杂度须与系统算力匹配,否则模型就会"撒谎";该说法为推文式理论概括,论证细节有限。
来源:AGI Hunt · agihunt.info