开放世界 AI 的三项要求：推理期学习、丰富表征与预测解耦

一项 arXiv 研究提出开放世界 AI 的三项要求：推理期学习、丰富表征，以及把输入输出对齐成匹配低维分组的预测解耦。在最高 8B 的语言模型上，满足要求的模型随相关任务数据累积而提升，其余则退化，且扩大规模或交错不同层类型都无法修复。分析还预测模型需要一致的内层学习器，并能从跨相关任务的长上下文获益。