Andrew Ng 玩梗：预训练数据之前还有「pre-pre-training 数据」

吴恩达（Andrew Ng）发推玩梗，称「pre-pre-…-pre-training 数据」看起来大部分像蒙德里安的画，但比自然文本好多了。这条趣味发言调侃近期生成/合成训练数据，以及「pre-training 之前的阶段」这一概念。