GRPC和HTTP提交请求,哪个更好?
NVIDIA高级系统架构师胡麟:
TensorRT Inference Server本身是支持这两种提交请求的方法,没有说哪种方法更优越一些,这还是要看您的应用和具体的架构。