深度学习应用的未来趋势会是边缘计算,还是大规模服务器集群,AI芯片未来会取代GPU服务器吗?
NVIDIA 高级系统架构师易成:
边缘计算的服务器还是很重要的,实际应用中需要根据边缘端视频路数和吞吐量来决定选择什么样的服务器,有的情况下可能是两卡的足够了,有的情况下可能需要4卡或者8卡,根据边缘端的并发量来具体决定。另外,我觉得AI芯片不会取代GPU服务器。