在什么硬件要求下才能建立这样的一个Server，必须V100,P4这类高档DGX吗？
NVIDIA高级系统架构师胡麟:
其实只要GPU有一定的计算能力，只要是英伟达的GPU都是可以支持TensorRT Inference Server的。
问题来源
使用TensorRT Inference Server加速深度学习模型的部署 | NVIDIA专场第30讲
分享至：