Adam又要“退休”了？耶鲁大学团队提出AdaBelief

要挑

所谓AdaBelief，是指根据梯

相比Ada

而AdaBelief的

vt和st的差别在于，

的指数移动平均（E

较小，

在“大梯

在

的

在

因此AdaBelief在x

图像分类

在CI

GAN

在WGAN和WGAN-GP

AdaBelief不会是最后一个意图取代Ada