请问有使用python API调用BERT进行推理的tutorial代码吗？
NVIDIA高级系统架构师胡麟:
据我所知在我们开源TensorRT GitHub上是有这样的BERT的demo的。
问题来源
使用TensorRT Inference Server加速深度学习模型的部署 | NVIDIA专场第30讲
分享至：