TRTIS内使用XLA加速效果如何？
NVIDIA高级系统架构师胡麟:
XLA是TensorFlow本身的事情，它跟TensorRT Inference Server是没有直接关系的。
问题来源
使用TensorRT Inference Server加速深度学习模型的部署 | NVIDIA专场第30讲
分享至：