-
短视频场景中的AI推理普遍使用什么网络模型?计算瓶颈在哪里?如何观察出该任务的计算瓶颈?
NVIDIA数据科学家徐添豪: 其实在数据处理时,其他网络结构也会有一些瓶颈,我们可以借... 全文>
-
使用T4对这些AI推理模型加速时,采用传统物理机部署和使用云服务器部署,在使用和性能上有什么差异?
NVIDIA数据科学家徐添豪: 其实现在的很多场景都部署在物理机上,云服务的好处是可以动... 全文>
-
预处理中的的resize有什么比较好的解决办法?
NVIDIA数据科学家徐添豪: 现在我们在DALI这个库,大家可以去Google下DAL... 全文>
-
图像frame如何在内存中高效保存,除了用YUV格式以外有没有更节约内存的格式?
NVIDIA数据科学家徐添豪: 当你去用其他格式,一般都是有损做转换,如果你考虑到不进行... 全文>
-
使用T4对这些AI推理模型加速时,对CPU、内存、硬盘和网络带宽有什么依赖要求?
NVIDIA数据科学家徐添豪: 在做模型推理的时候,首先要考虑CPU和GPU的配比,每个... 全文>
-
短视频场景中主流的AI推理模型有哪些?优劣对比怎样?
NVIDIA数据科学家徐添豪: 刚才我在介绍的过程当中,已经讲了很多关于AI的场景。关于... 全文>
-
使用NPPI做YUV->RGB的CSC转换的时候,batch在一起和单独做有什么性能上的区别吗?
NVIDIA数据科学家徐添豪: NPPI在GPU上其实是一个CUDA写的库,他在做YUV... 全文>
-
短视频中如何解决跨机器传输图像frame的问题,压缩太慢,不压缩传输时间太长。
NVIDIA数据科学家徐添豪: 可分这两部分,一个是压缩太慢,在压缩过程中可以去做一些有... 全文>