哪些深度学习框架目前支持TensorRT?比如tensorflow serving底层目前支持么?
NVIDIA 中国区HPC/DL 解决方案架构师程帅:
TensorRT里面支持的原生深度学习框架有Caffe和TensorFlow,TensorFlow是在TensorRT 4版本里开始支持的,可以直接支持TensorRT的集成,TensorRT serving的底层是可以去支持TensorFlow加TensorRT这种模型去做的。