AI 自动科研方法重演优化算法史：思想动量与模拟退火齐上

自动科研圈子正重拾优化领域的经典方法，包括思想动量、思想交叉熵搜索和思想模拟退火，实测表现相对接近，遗传风格变体略有优势，与二十年前非凸优化领域相似。作者提问是否会重演当年配方，将上下文与 LLM 变换联合参数化以遍历想法空间，并自答这正是 post-training 在做的事。