NVIDIA NPN合作伙伴负责人吴强:

这个问题描述的不准确，数据量和显存没什么关系，跟显存有关系的是应用，有些应用需要大显存，比如V100已经是32G显存，如果识别一个512*512的图片和识别一个1024*1024的图片对显存要求是不一样的，所以显存越大对一些大模型是有好处的，易老师介绍的 DGX-2中的NVSwitch，也进一步降低了GPU之间的通讯成本，因为NVLink很快，以一个DGX-2的超级计算机为例，所有的V100的32G显存都可以供你的应用来使用，对一些大模型的处理效率会很高，这也是为什么一台DGX-2在很多方面优于两台DGX-1的原因，因为通过网络在NVLink层面就进行IO,在显存层面进行数据交换，运算效率是非常高的。