目前GPU如何解决大规模数据运算时,保证GPU的有效利用率
NVIDIA高级系统架构师易成:
GPU的利用率和负载情况相关,尽量保证GPU数量和计算量相匹配。另外,V100 GPU支持MPS多进程服务功能,开启MPS也可以一定程度提高利用率。