GPU Server的计算能力和memory之间有瓶颈吗？有的话是在内存（DRAM, HBM）带宽，还是内存和存储（SSD, 3D point）之间的带宽？
英伟达技术总监赖俊杰：
计算能力跟内存（DRAM）到底谁是瓶颈取决于应用大致是compute bound还是memory bound的？
一般来讲，至少我看到的例子，不太会反复地对存储进行大量数据的读写，如果真有这样的应用的话，那很有可能存储的带宽会变成瓶颈。GPU的计算能力跟memory带宽量级都较存储带宽高很多。更多的情况是，预先把数据都load 到memory（CPU或者GPU），或者存储里的数据地访问，相对于后续的处理是相对少量的。
登录查看完整答案
