首页 > 最新资讯 > 一文读懂边缘计算是什么? | 科普
一文读懂边缘计算是什么? | 科普

一文读懂边缘计算是什么? | 科普

2019-10-29 17:41

#人工智能


边缘计算就像手边的甜甜圈一样,能够让香甜的滋味唾手可得。

当你想要吃甜点的时候,走路去路旁的甜品店买甜甜圈,需要走上好一段路。但是,此时如果恰好有一盒甜甜圈就摆在你的办公桌上,你对甜食的渴望就能即刻得到满足。

边缘计算也是如此。在数据处理的过程中,如果将数据发送到运行在云端的AI程序进行处理,势必会导致延迟答复。但是,如果把就近它发送到临近的边缘服务器,这就将变得像是从手边的盒子里拿出一个甜甜圈一样简单快捷。

很有可能你现在正在感受边缘计算带来的便捷,这种边缘计算体验就来自于你口袋里的智能手机。最新的智能手机就处于电信网络的“边缘”,其能够以更加智能的方式处理语音任务和编辑出更加时尚照片。

边缘计算,这一概念已经存在了几十年,其意指为在尽可能临近于源代码的地方捕获和处理数据。

所谓边缘计算,是把处理器直接安装应用在那些会收集到几GB甚至几TB字节流数据的位置,诸如:自动驾驶汽车、智能工厂机器人、医院医疗成像机、零售店收银台摄像头等。

到2025年,预计将有1500亿台机器传感器和物联网设备将源源不断的势头,传输需要处理的数据。

随着5G网络的推出,其速度比4G网络快10倍,更多的AI服务将成为可能,这也进一步加速了对于边缘计算的需求。

从智能手机到“万物智能”

如今,谷歌、苹果和三星等公司推出的智能手机搭载了更多的AI处理功能,可以更好地为用户提供服务,比如:使用计算摄影技术在几毫秒内完成照片美化。

然而,在物联网领域,来自于物联网设备的数据流,要远比智能手机所产生的数据量要多得多。

大量应用于汽车、机器人、无人机、移动设备、摄像头和传感器,以及医疗成像机的物联网设备,对边缘计算提出了更高的需求。这些计算密集型工作负载会产生大量的数据,需要预考边缘计算来部署AI。

如今,那些需要在分秒内完成的AI计算需要边缘计算,如此以来,可以减少由于远程往返传输数据而导致的延迟和带宽问题。

边缘计算如何工作

数据中心是集中化服务器,其通常位于空间成本和电力成本较低的地方。即使在最快速的光纤网络上,数据传输速度也不能超过光速。因此,在远程传输数据的时候,物理上的距离,无论如何都无法抵消,进而造成延迟。

而边缘计算则可以缩短这一距离。



边缘计算可以在多个网络节点上运行,以缩短数据和处理器之间的物理距离,从而减少瓶颈并加快应用程序的速度。

在网络的外围,有着数以十亿计的物联网和移动设备运行在小型嵌入式处理器上,这正是诸如视频处理等基本应用的理想处理模式。

如今,工厂和市政部门都在紧锣密鼓地开发和运行计算密集型模型,这种情况下,它们就需要传统边缘计算的新方法。

什么是用于城市的边缘计算?

众多《财富》500强企业、初创企业以及城市都在边缘领域采用人工智能。例如,城市正在开发AI应用程序,以缓解交通堵塞和提高安全性。

Verizon使用NVIDIA Metropolis物联网应用框架,结合Jetson深度学习能力,可以分析多个视频数据流,进而寻找改善交通流、增强行人安全、优化城市停车等方法。

总部位于加拿大安大略省的初创公司Miovision Technologies使用深度神经网络分析来自于摄像头和城市基础设施的数据,以优化红绿灯变换,从而确保车辆顺畅行驶。

凭借NVIDIA Jetson紧凑超级计算模块的边缘计算和来自NVIDIA Metropolis的洞察, Miovision和其他企业可以加速其在边缘领域的工作。节能型的Jetson可以同时处理多个AI进程的视频。这种结合为解决网络瓶颈和交通堵塞提供了替代方法。

边缘计算也在不断扩展。NVIDIA Metropolis和来自于其它第三方的行业AI应用程序框架都运行在NVIDIA EGX 平台之上,以获得最佳性能。

边缘计算为AI带来的益处

面向AI的边缘计算有诸多益处。它将AI计算引入数据生成领域,包括智能零售、医疗健康、制造业、交通等。

这种计算环境的转变为企业提供了新的服务机会,可以提高企业效率并节约成本。

与运行CPU机架的传统边缘服务器不同, NVIDIA EGX平台占地面积更小,而且提供了跨NVIDIA AI的兼容性,能够从超级计算模块的Jetson系列扩展至NVIDIA T4(立即免费试用)服务器的完整机架。

为AI运行边缘计算的企业在微型的NVIDIA Jetson Nano上部署延迟低、灵活性高的AI应用。这台小型超级计算机只需几瓦特就可以完成每秒5万亿次的图像识别任务等。

NVIDIA T4服务器机架每秒可提供超过10000万亿次的操作,能够应用于对算力要求最苛刻的实时语音识别和其他计算繁重的AI任务当中。

此外,在AI驱动的边缘网络外围进行更新也很快捷。EGX软件栈运行于Linux和Kubernetes之上,允许从云服务器或边缘服务器进行远程更新,从而不断地改进应用程序。

而且NVIDIA EGX服务器是为CUDA加速容器而调整的。

企业边缘计算和人工智能服务

作为全球最大的零售商,沃尔玛正在引入边缘AI,打造智能零售商店。结合智能视频分析、AI库存管理以及客户和商店分析,为其提供更高的利润率,同时也为顾客提供更好的客户体验。

借助于NVIDIA EGX平台,沃尔玛能够实时处理每秒生成的超过1.6TB字节的数据。它可以使用AI完成各种各样的任务,例如:自动提醒售货员补货、回收购物车或开放新的结帐通道。

数百个乃至更多的互连的摄像头可以为AI图像识别模型提供数据,并由NVIDIA EGX当场完成数据处理。同时,Jetson Nano可以在远程处理较小的视频源网络,并在云中与EGX和NVIDIA AI连接。

商店的过道可以由完全自主的、会话式AI机器人监控,机器人由Jetson AGX Xavier驱动,运行Isaac进行SLAM 导航。所有这些都与云中的EGX或NVIDIA AI兼容。

无论是什么样子的应用程序,NVIDIA T4和Jetson GPU都能够在边缘为智能视频分析和机器学习应用程序提供了强大的组合。

从智能设备到传感器融合

工厂、零售商、制造商和汽车制造商正在生成传感器数据,这些数据可以通过交叉引用的方式帮助用户改进服务。

这种传感器融合的方式将帮助零售商为顾客提供新的服务。机器人不仅可以使用语音和自然语言处理模型进行会话交互。这些机器人还可以使用视频源运行姿态估计模型,通过将语音和手势传感器信息结合起来,可以使得机器人能够更好地了解客户所要寻找的产品或方向。

借助于传感器融合,汽车制造商能够为顾客提供新式的用户体验,从而获得竞争优势。汽车制造商可以使用姿态估计模型来了解司机在看什么,并采用自然语言模型来理解司机使用语言,向车载GPS地图提出的命令。

例如,当司机在GPS地图上寻找一家就近的7-Eleven便利店时,其可以滑动手指,指向一家7-Eleven便利店,说“靠边停车,我想吃个甜甜圈”,在传感器融合和AI的帮助下,司机所乘坐的自动驾驶汽车就能够判断出其想要前往的目的地。

用于游戏的边缘计算

游戏玩家对高性能、低延迟的计算能力的需求之苛刻,可谓是众人皆知的。高质量的边缘云游戏能够满足他们的胃口。全新一代虚拟现实、增强现实和人工智能游戏应用是一项巨大的挑战。

电信运营商正在使用NVIDIA RTX服务器,它能够像全世界的玩家提供光线追踪和AI增强型的影院级游戏画面。这些服务器为NVIDIA的云游戏服务GeForce NOW提供了强大的动力,该服务能够在边缘领域,将动力不足或兼容性差的硬件设备转变为强大的GeForce游戏PC。

台湾移动与韩国LG U +,日本软银以及俄罗斯Rostelecom都已宣布计划向他们的云游戏客户推出这项服务。

什么是人工智能边缘计算服务?

利用边缘AI,电信企业可以为客户提供新式的服务,创造新的收入来源。

通过采用NVIDIA EGX,电信运营商可以使用图像识别模型来分析摄像机的信息,帮助处理交通管理,商店货架检测,和物流快递管理等各种事情。

例如,如果一家7-Eleven便利店在某个星期六的一大早就卖光了店里的甜甜圈,那么便利店经理就将会收到一个提醒,提醒其补充库存。

在未来,你吃的每一个新鲜的甜甜圈背后,都有边缘计算的身影。

高性能的深度学习推理是在NVIDIA Jetson 嵌入式计算平台的边缘,通过NVIDIA EGX 平台服务器和数据中心与NVIDIA Tesla GPU 加速器运行的。

相关新闻