基础网络（例如ResNet50/Inception）在Xavier和T4上都分别使用TensorRT的FP16和INT8的加速情况和性能对比？

NVIDIA 中国区HPC/DL 解决方案架构师程帅：

关于基础网络ResNet50/Inception在Xavier和T4上的数据，其实刚才的PPT里面有一些在T4上公开的Net50的详细测试数据，在BitchSize为1的时候延迟只有1毫秒左右。

问题来源