数据库和显存大小的关系是什么样的?
NVIDIA 高级系统架构师易成:
这个问题描述的不是很准确,其实数据量和显存一般没什么关系,但是我来解释一下跟显存有关系的是应用。有些应用需要大显存,比如v100的显存是32G,以图片识别为例,如果你识别一个512 X 512的图片和去识别一个1024 X 1024的图片对显存要求是不一样的,所以显存越大对一些大模型其实是有好处的。同时NVSwich 可以降低了DGX 2不同GPU之间的通讯成本,因为NVLink很快。
因此以DGX2超级计算机为例,其中每个V100的32G显存都可以供应用来使用,这样他整体显存可以非常大,在处理一些大模型时效率会很高,这也是为什么一台DGX2优于两台DGX1的原因,因为DGX2不需要通过网络来进行I/O,在NVLink层面就可以进行I/O,在显存层面进行数据交换,所以效率非常高。
登录查看完整答案