视觉处理是在终端处理好,再送到server T4推理,还是server端有集成视觉前处理的芯片?
NVIDIA 中国区HPC/DL 解决方案架构师程帅:
这个更多依赖于要处理的场景的计算需求和延迟需求,如果计算量非常小而延迟要求非常高的话,比如人脸闸机或是过关时候人脸比对这些场景的,其实计算量是非常小的,可能在每个闸机放一个比如功耗不到5W的的芯片就能满足计算和延迟需求;但是如果是在大的公共场合比如火车站这种计算量大的场景,就要放到后端去做整体的分析处理,所以是根据场景的不同去决定是在终端还是数据中心做处理。