multicudastream可以在多个GPU device上面吗？还是只能在同一个device？

NVIDIA资深并行计算技术经理池哲贵：

Multicudastream只针对的是一个GPU，因为多个stream只能在一个CUDA context里面，一个context只针对一个GPU,所以这个context的多个cudastream只能跑在这个GPU上面。

问题来源