可以在普通的n卡上训练吗
NVIDIA 中国区HPC/DL 解决方案架构师程帅:
普通的N卡可以理解为是游戏那种显卡及ps卡,或者是1080这些RTX系列的卡,而这些卡都可以运用领口,但是由于这些卡没有高速的linux的通信链路,所以在单卡系统,它的数据传输都是通过PCIE的系统的。这样的话,我们展示的那种这些性能数据在这台机器里面通过PCIE去走,然后又通过QPI,这个带宽可能就是5、6G左右的一个速度。所以这个速度可能会限制你多GPU以及多节点去做分布式的一个瓶颈。因为你是用普通的卡,然后通过QPI 6G的速度,这个速度你在多机的时候再加更多的网卡,更多的高速网卡的话也没有用,因为这个速度都限制在你的机器内部,然后你加了2个、4个100G的网卡,其实速度也上不去。