TensorFlow Blog· TensorFlow Blog·· 2023-08-25AI 评分33
TensorFlow 中的分布式快速傅里叶变换(Distributed FFT)
Distributed Fast Fourier Transform in TensorFlow
AI 导读
TensorFlow v2 通过 DTensor 原生支持分布式 FFT,分片张量可直接传入 tf.signal.fft2d 等既有算子,输出同样保持分片。8xV100 GPU 上的 10K*10K 实验中,两个本地 FFT 算子只占总耗时 15ms 的 3.6%,约为非分布式 fft2d 的 1/3,其余时间主要耗在 ncclAllToAll 数据重排上。
来源:TensorFlow Blog · blog.tensorflow.org