请问Tensor Core与structure sparse对于科学计算是否有用?
NVIDIA中国区工程及解决方案总监赖俊杰:
Tensor Core对FP64(就是double的),对于很多用到double的矩阵乘的科学计算程序肯定有直接的帮助,甚至是像FP32、FP16这样的Tensor Core,都有一些工作尝试把他们用到科学计算的场所。还有一个大的前提是这些Tensor Core都是比较适用于把计算变成矩阵计算的操作里面去。对于结构化稀疏,因为它针对的是深度学习、深度神经网络这样的inference场合,不仅仅是说它对于这种稀疏的几个结构,它是有一个非常确定的要求,另外还需要有一个retrain的过程。