GPU应用于HPC，通常最低需要单精度计算，此时半精度的Tensor Core是闲置了吗？

对的，你可以这样去理解。我们有不同的计算单元，比如单个Tensor Core，或者说单精度、双精度的计算单元，用到其中一些，另外一些你可以认为它被闲置掉了。