NVIDIA EGX如何为全球各行业构建中央神经系统
2020-05-25 20:38
分享到微信
分享到微博
物联网传感器的日益普及推动着各个行业的巨大变革，包括用来“看”的摄像头、用来“听”的麦克风，还有其他帮助企业感知、了解现实世界中所发生事情的智能设备。
在边缘生成的数据量呈指数级增长，而实时处理海量数据的唯一方法，就是将服务器放置在行动点附近，并利用GPU的强大算力。
未来的企业数据中心不会在一个地点放置一万台服务器，而是会在一万个不同地点放置一台或多台服务器。这些服务器将被放置于办公楼、工厂、仓库、手机信号塔、学校、商店和银行中，用于探测交通堵塞和森林大火、安全引导交通并预防犯罪。
企业可通过部署一个分布式服务器网络，从数百个传感器中流式传输数据，在边缘使用数据中心网络，并通过AI立即采取行动。此外，在边缘处理数据可以缓解对于隐私的担忧，并解决数据主权问题。
边缘服务器缺乏企业IT认为理所当然的物理安全基础架构，而且公司没有让空闲IT人员去管理这些远程系统的预算。因此，边缘服务器的设计必须具备自我安全功能，并且方便从远处进行更新、管理和部署。
此外，AI系统需要能够永久保持运行，不能出现停机。
我们构建的NVIDIA EGX边缘AI平台用来确保全球范围内的安全性。通过简化部署和管理，NVIDIA EGX帮助始终在线的AI应用程序实现了未来关键基础架构的自动化。该平台是Kubernetes和容器原生软件平台，它能将GPU加速AI带入到从双路x86服务器到基于ARM的NVIDIA Jetson SoCs等一切应用。
目前，已有20多家服务器供应商正在构建基于EGX的边缘和微边缘服务器，包括ADLINK、研华、Atos、AVerMedia、思科、Connect Tech、戴尔科技、Diamond Systems、富士通、Gigabyte、惠普、浪潮、联想、广达和超微。除此之外，NVIDIA边缘生态系统还有数十家混合云和网络安全合作伙伴，包括Canonical、Check Point、Excelero、Guardicore、IBM、Nuage Networks、Nutanix、Palo Alto Networks、Rancher、Red Hat、VMware、Weka和Wind River。
NVIDIA EGX上还有数百家AI应用程序和集成解决方案供应商，它们为全球企业提供行业特定产品。
运行AI的企业不仅需要保护客户数据，还需要保护将数据转化为行动的AI模型。我们通过将安全、高性能网络的行业标准NVIDIA Mellanox SmartNIC与我们的AI处理器，集成到组合式聚合加速器NVIDIA EGX A100中，为边缘AI引入基础创新技术。
NVIDIA EGX A100
更高的安全系数和性能
从Hardware Root-of-Trust通过安全认证启动GPU和SmartNIC，可保证对设备固件和生命周期的安全管理。NVIDIA Ampere架构中的第三代Tensor核心技术带来了业内领先的AI性能。专为EGX A100开发的保密AI安全区使用全新GPU安全引擎加载加密AI模型，并对所有AI输出进行加密，进一步防止宝贵的IP遭到盗用。
随着加密高分辨率传感器在边缘的日益普及，SmartNIC开始支持线速的线内密码编译加速。这使得加密数据推送被解密后，直接发送至GPU内存，从而绕过CPU和系统内存。
边缘还需要更高级别的安全性，以防范来自网络上其他设备的威胁。通过在硬件中动态配置防火墙卸载，SmartNIC可以有效地为混合云、安全服务网格通信构建起第一道防线。
NVIDIA Mellanox专为电信公司提供精准时钟调度5G无线报文的传输技术（5T for 5G），使商用现成解决方案能够通过我们的NVIDIA Aerial SDK，满足5G vRAN最具时间敏感性的用例，引领CloudRAN在电信行业的新一轮应用浪潮。
通过将NVIDIA Ampere GPU和Mellanox ConnectX-6 D部署在一个聚合产品上，EGX A100可为安全和虚拟网络功能提供低延迟、高吞吐量的数据包处理。
简化大规模部署、管理和安全
通过NVIDIA GPU优化容器目录NGC，我们提供了行业应用框架和特定领域的AI工具包，简化AI的入门并根据新边缘环境调节AI应用程序。它们可以一起使用或单独使用，为各种边缘用例开辟新的可能性。
借助NGC专用注册表，可以在发布前对应用程序进行签名，从而确保它们在传输过程中未被篡改。然后，可以在边缘运行这些应用程序之前，对其进行验证。NGC专用注册表还支持模型版本控制和加密，因此可以快速、安全地进行轻量级模型更新。
未来的边缘计算需要在网络边缘运行安全、可扩展、有弹性、易于管理的AI驱动系统群。我们正在将NVIDIA GPU、NVIDIA Mellanox SmartNIC的复合加速与NVIDIA EGX的加速度结合起来，构建组成全球各行业AI神经系统的平台和生态系统。
在边缘生成的数据量呈指数级增长，而实时处理海量数据的唯一方法，就是将服务器放置在行动点附近，并利用GPU的强大算力。
未来的企业数据中心不会在一个地点放置一万台服务器，而是会在一万个不同地点放置一台或多台服务器。这些服务器将被放置于办公楼、工厂、仓库、手机信号塔、学校、商店和银行中，用于探测交通堵塞和森林大火、安全引导交通并预防犯罪。
企业可通过部署一个分布式服务器网络，从数百个传感器中流式传输数据，在边缘使用数据中心网络，并通过AI立即采取行动。此外，在边缘处理数据可以缓解对于隐私的担忧，并解决数据主权问题。
边缘服务器缺乏企业IT认为理所当然的物理安全基础架构，而且公司没有让空闲IT人员去管理这些远程系统的预算。因此，边缘服务器的设计必须具备自我安全功能，并且方便从远处进行更新、管理和部署。
此外，AI系统需要能够永久保持运行，不能出现停机。
我们构建的NVIDIA EGX边缘AI平台用来确保全球范围内的安全性。通过简化部署和管理，NVIDIA EGX帮助始终在线的AI应用程序实现了未来关键基础架构的自动化。该平台是Kubernetes和容器原生软件平台，它能将GPU加速AI带入到从双路x86服务器到基于ARM的NVIDIA Jetson SoCs等一切应用。
目前，已有20多家服务器供应商正在构建基于EGX的边缘和微边缘服务器，包括ADLINK、研华、Atos、AVerMedia、思科、Connect Tech、戴尔科技、Diamond Systems、富士通、Gigabyte、惠普、浪潮、联想、广达和超微。除此之外，NVIDIA边缘生态系统还有数十家混合云和网络安全合作伙伴，包括Canonical、Check Point、Excelero、Guardicore、IBM、Nuage Networks、Nutanix、Palo Alto Networks、Rancher、Red Hat、VMware、Weka和Wind River。
NVIDIA EGX上还有数百家AI应用程序和集成解决方案供应商，它们为全球企业提供行业特定产品。
运行AI的企业不仅需要保护客户数据，还需要保护将数据转化为行动的AI模型。我们通过将安全、高性能网络的行业标准NVIDIA Mellanox SmartNIC与我们的AI处理器，集成到组合式聚合加速器NVIDIA EGX A100中，为边缘AI引入基础创新技术。
NVIDIA EGX A100
更高的安全系数和性能
从Hardware Root-of-Trust通过安全认证启动GPU和SmartNIC，可保证对设备固件和生命周期的安全管理。NVIDIA Ampere架构中的第三代Tensor核心技术带来了业内领先的AI性能。专为EGX A100开发的保密AI安全区使用全新GPU安全引擎加载加密AI模型，并对所有AI输出进行加密，进一步防止宝贵的IP遭到盗用。
随着加密高分辨率传感器在边缘的日益普及，SmartNIC开始支持线速的线内密码编译加速。这使得加密数据推送被解密后，直接发送至GPU内存，从而绕过CPU和系统内存。
边缘还需要更高级别的安全性，以防范来自网络上其他设备的威胁。通过在硬件中动态配置防火墙卸载，SmartNIC可以有效地为混合云、安全服务网格通信构建起第一道防线。
NVIDIA Mellanox专为电信公司提供精准时钟调度5G无线报文的传输技术（5T for 5G），使商用现成解决方案能够通过我们的NVIDIA Aerial SDK，满足5G vRAN最具时间敏感性的用例，引领CloudRAN在电信行业的新一轮应用浪潮。
通过将NVIDIA Ampere GPU和Mellanox ConnectX-6 D部署在一个聚合产品上，EGX A100可为安全和虚拟网络功能提供低延迟、高吞吐量的数据包处理。
简化大规模部署、管理和安全
通过NVIDIA GPU优化容器目录NGC，我们提供了行业应用框架和特定领域的AI工具包，简化AI的入门并根据新边缘环境调节AI应用程序。它们可以一起使用或单独使用，为各种边缘用例开辟新的可能性。
借助NGC专用注册表，可以在发布前对应用程序进行签名，从而确保它们在传输过程中未被篡改。然后，可以在边缘运行这些应用程序之前，对其进行验证。NGC专用注册表还支持模型版本控制和加密，因此可以快速、安全地进行轻量级模型更新。
未来的边缘计算需要在网络边缘运行安全、可扩展、有弹性、易于管理的AI驱动系统群。我们正在将NVIDIA GPU、NVIDIA Mellanox SmartNIC的复合加速与NVIDIA EGX的加速度结合起来，构建组成全球各行业AI神经系统的平台和生态系统。
