AGI Hunt· serrjoa·· 3 小时前AI 评分41
arXiv 新预印本:扩散模型中不存在良性过拟合与双下降
新预印本:扩散模型中不存在良性过拟合与双下降
AI 导读
一篇新 arXiv 预印本称,扩散模型中不存在良性过拟合与双下降:除非样本量随数据维度指数增长,过拟合与良好泛化无法同时出现。原因是 score matching 缺少回归任务中目标与经验协方差的对齐,过拟合「不可修复地有害」,真正起作用的是 score 时间平滑性带来的隐式正则与 early stopping。结论经高维图像生成实验验证。
来源:AGI Hunt · agihunt.info