NVIDIA资深研究科学家刘贵林：

刚才的探讨中提到了一开始论文没有用GAN loss，后来用GAN loss发现人脸图片有比较明显的提升，我们也在自然图片中用了GAN loss，但是自然图片里GAN loss提升并不明显，个人理解是人脸图片中整个数据集的复杂性和分布式比较简单的，所有的图片都是有眼睛、鼻子、嘴、头发之类，在自然图片里面你会出现各种情况，比如石头、树、人、水、各种自然的物体，整个的数据集分布式很复杂的，所以发现在自然图片里我们发现用GAN loss没有什么提升。对于GAN模型我个人比较有用的经验是用GAN模型训练时用一个叫做switchable normalization的一个层块，它会对你的模型稳定性非常有帮助。