Jetson Nano问鼎边缘设备基准评测
2019-10-28 20:30
在知名机器学习和数据科学咨询公司Tryolabs的最新边缘设备基准评测报告中,NVIDIA Jetson Nano从五种新型边缘硬件设备中脱颖而出,在推理时间和准确度两项指标中,均排名第一。
如何应对“数据海啸”?
从手机图像、视频和音频,到汽车导航数据,再到城市物流、零售、停车等各项功能,人类所产生的数据已经远远超过以往任何时候。以城市摄像头为例,全球每天有超过 5 亿个摄像头处于运作状态,产生海量数据,而且这一数字还在呈指数级增长。
数据是现代城市的命脉。可是当数据如海啸般汹涌而来之时,人类如何才能有效地分析处理海量数据,并从中获得深入的见解?
随着网络性能和速度(尤其是5G)不断突破,边缘计算解决方案应运而生,即把数据处理任务放至于网络边缘的设备上,使数据处理能够在尽可能地靠近数据源的地带完成。这种计算方式能以非常高的速度实现实时的数据处理,并缓解网络压力、降低能耗。
Jetson Nano的灵活可用性成为最大赢家
Tryolabs提出了一个关键性问题,本地硬件不具备云端超级计算机那般强大的性能,但是我们又不能因此而放弃了准确度和速度。那么选择最佳的边缘硬件和深度神经网络类型组合,成为真正要解决的问题。
Tryolabs的测试方法是通过一次一张的图像分类任务来测量实时的推理吞吐量,从而得到近似的每秒处理帧数。
结果显示:在推理时间方面,组合使用 ResNet-50、TensorRT 和 PyTorch 的 Jetson Nano 获胜。该组合用 2.67 毫秒处理一张图像,即每秒处理 375 帧;在准确度方面,最佳结果来自 Jetson Nano 与 TF-TRT 和 EfficentNet-B3 的组合,其实现了 85% 的准确度。此外,在可用性方面,当涉及到选择和部署预编译的模型和框架时,Jetson Nano是最灵活的。
Jetson Nano可谓是部署边缘计算解决方案的绝佳选择。当然,除了它之外,专为嵌入式打造的Jetson家族系列产品,可以依据不同的应用场景,为用户提供高性能的嵌入式解决方案,从物联网到农业、从医疗到交通运输的各行各业带来巨大影响。
如何应对“数据海啸”?
从手机图像、视频和音频,到汽车导航数据,再到城市物流、零售、停车等各项功能,人类所产生的数据已经远远超过以往任何时候。以城市摄像头为例,全球每天有超过 5 亿个摄像头处于运作状态,产生海量数据,而且这一数字还在呈指数级增长。
数据是现代城市的命脉。可是当数据如海啸般汹涌而来之时,人类如何才能有效地分析处理海量数据,并从中获得深入的见解?
随着网络性能和速度(尤其是5G)不断突破,边缘计算解决方案应运而生,即把数据处理任务放至于网络边缘的设备上,使数据处理能够在尽可能地靠近数据源的地带完成。这种计算方式能以非常高的速度实现实时的数据处理,并缓解网络压力、降低能耗。
Jetson Nano的灵活可用性成为最大赢家
Tryolabs提出了一个关键性问题,本地硬件不具备云端超级计算机那般强大的性能,但是我们又不能因此而放弃了准确度和速度。那么选择最佳的边缘硬件和深度神经网络类型组合,成为真正要解决的问题。
Tryolabs的测试方法是通过一次一张的图像分类任务来测量实时的推理吞吐量,从而得到近似的每秒处理帧数。
结果显示:在推理时间方面,组合使用 ResNet-50、TensorRT 和 PyTorch 的 Jetson Nano 获胜。该组合用 2.67 毫秒处理一张图像,即每秒处理 375 帧;在准确度方面,最佳结果来自 Jetson Nano 与 TF-TRT 和 EfficentNet-B3 的组合,其实现了 85% 的准确度。此外,在可用性方面,当涉及到选择和部署预编译的模型和框架时,Jetson Nano是最灵活的。
Jetson Nano可谓是部署边缘计算解决方案的绝佳选择。当然,除了它之外,专为嵌入式打造的Jetson家族系列产品,可以依据不同的应用场景,为用户提供高性能的嵌入式解决方案,从物联网到农业、从医疗到交通运输的各行各业带来巨大影响。