中移动研究院借助 DGX-1 提供高效的深度学习和智能分析平台
2019-11-18 19:18
分享到微信
分享到微博
中国移动通信集团有限公司是目前全球网络规模最大、客户数量最多的电信运营企业。中国移动研究院是中国移动的核心研发及技术支撑中心，研究领域覆盖无线、网络、业务、安全、物联网、大数据、实验测试、用户与市场、战略研究等。
在人工智能领域，中国移动研究院面向运营商的智慧连接、智慧运营、智慧服务场景，提供深度学习平台等基础服务，智能语音、自然语言理解、人脸图像等核心能力，以及智能客服、智慧网络、智能营销机器人等应用产品，并聚焦垂直行业，提供场景驱动的端到端AI应用解决方案及实施保障。
中国移动研究院致力于视频图像AI相关技术研究及自主产品研发，重点聚焦视频基础技术领域及安防垂直应用领域相关AI技术研究，已具备视频图像AI关键技术能力积累及面向安防应用的系统产品，包括人像分析，视频结构化分析、图像视频超分辨率等通用视觉AI能力，监控人脸识别、事件检测、行为检测等视觉AI应用能力，以及智能监控、人脸识别闸机/门禁等产品。
中国移动研究院已通过“九天”人工智能平台提供多种视频图像AI分析能力，并通过视频产品输出、能力支持/转化、技术服务先后支撑了集团省公司、专业公司等多家单位，合作落地了人脸识别、场景分析、视频质检等应用能力及产品。
通过NVIDIA DGX-1服务器及NVIDIA-Docker平台，为内部研发人员搭建了深度学习验证及训练一体化平台，提供深度学习环境一键部署、千万级图像视频数据高速训练能力，快速进行模型测试与训练优化。通过将计算能力、模型开发能力共享，提升开发效率和业务效果，并将资源合理调度，提高资源利用率，实现对人脸识别、视频信息结构化、视频超分辨率等智能分析能力的全流程加速，使算法研发应用效率提升3倍以上。
一般计算平台无法满足
海量视频数据训练及部署要求
视频智能分析应用具有数据量巨大、并发性要求高等特点。以人脸识别应用为例，后台分析模块需同时接入数万路视频流，快速完成人脸检测与识别处理，在不影响用户体验的时间内将结果反馈至前端，对算法效率及并发处理能力提出极高要求。同时，人脸识别终端每天将产生数万张人脸图像数据，累计千万级数据用于算法模型的迭代优化。在应用方面，一般计算平台与硬件无法满足高并发场景实时处理能力，导致应用部署硬件成本极高，在训练方面，无法提供对海量数据的训练能力，或需要数周时间方可完成一次训练，耗费了大量时间与测试成本。
同时，视频智能分析应用涉及领域广泛，研究人员需要频繁对不同框架下算法进行验证测试与优化。一般平台无法提供快速便利的环境部署能力，且在多用户场景下经常导致环境相互冲突。导致研发人员耗费大量时间进行环境搭建及维护，严重影响研发效率。
GPU计算平台
为训练及推理带来加速
中国移动研究院基于搭载了8片Tesla V100 GPU 的NVIDIA DGX-1及NVIDIA-Docker平台，为内部研发人员搭建了深度学习验证及训练一体化平台。
在模型训练方面，利用Tesla V100 GPU的大容量显存及高速运算能力，能够采用更大Batch Size处理海量数据进行权重优化，使模型训练过程更加稳定高效。在提升算法精度同时，显著降低了算法迭代优化的时间成本。以视频超分辨率为例，通过将Batch Size翻倍进行4k超高清视频帧的超分辨率处理，相比于原TITAN Xp GPU平台训练效率提升了3倍以上，模型精度提升了10%。
在算法应用方面，在Tesla V100 GPU高速运算能力基础上，利用NVIDIA TensorRT进行模型推理加速，并利用Tesla V100 GPU大容量显存，通过消息队列等方式提高算法并发处理能力。以火灾检测为例，通过TensorRT对模型进行加速优化，在不损失算法精度条件下，将推理效率提升了5倍以上，在此基础上通过消息队列等方式充分利用GPU显存空间及运算能力，将并发处理性能提升30倍。
在研发测试方面，利用NVIDIA-Docker平台部署多种深度学习框架多版本镜像，提供独立环境一键部署能力，平均每次可节省研发人员1～2天环境部署时间及后续大量环境维护时间成本，提高研发测试效率。
GPU计算平台加速产品研发
中国移动研究院致力于视频图像AI相关技术研究及自主产品研发。使用NVIDIA DGX-1、NVIDIA-Docker平台及TensorRT等平台，极大提升了中国移动研究院在图像视频智能分析领域研发、测试、应用的效率，进一步提升了已有产品的优化能力及新需求功能的实现能力，为产品的应用推广及业务扩展打下良好的基础。
基于NVIDIA DGX-1及NVIDIA-Docker平台，中国移动研究院能够高效进行图像视频智能分析能力与产品的迭代优化，面向具体应用场景快速定向优化算法性能，迅速完成对新需求的响应开发，基于TensorRT等技术，提供高可靠高并发处理能力的视频智能分析产品。通过降低 AI 技术建设和运营成本，提高企业生产效率，更利于抓住市场机遇。
在人工智能领域，中国移动研究院面向运营商的智慧连接、智慧运营、智慧服务场景，提供深度学习平台等基础服务，智能语音、自然语言理解、人脸图像等核心能力，以及智能客服、智慧网络、智能营销机器人等应用产品，并聚焦垂直行业，提供场景驱动的端到端AI应用解决方案及实施保障。
中国移动研究院致力于视频图像AI相关技术研究及自主产品研发，重点聚焦视频基础技术领域及安防垂直应用领域相关AI技术研究，已具备视频图像AI关键技术能力积累及面向安防应用的系统产品，包括人像分析，视频结构化分析、图像视频超分辨率等通用视觉AI能力，监控人脸识别、事件检测、行为检测等视觉AI应用能力，以及智能监控、人脸识别闸机/门禁等产品。
中国移动研究院已通过“九天”人工智能平台提供多种视频图像AI分析能力，并通过视频产品输出、能力支持/转化、技术服务先后支撑了集团省公司、专业公司等多家单位，合作落地了人脸识别、场景分析、视频质检等应用能力及产品。
通过NVIDIA DGX-1服务器及NVIDIA-Docker平台，为内部研发人员搭建了深度学习验证及训练一体化平台，提供深度学习环境一键部署、千万级图像视频数据高速训练能力，快速进行模型测试与训练优化。通过将计算能力、模型开发能力共享，提升开发效率和业务效果，并将资源合理调度，提高资源利用率，实现对人脸识别、视频信息结构化、视频超分辨率等智能分析能力的全流程加速，使算法研发应用效率提升3倍以上。
一般计算平台无法满足
海量视频数据训练及部署要求
视频智能分析应用具有数据量巨大、并发性要求高等特点。以人脸识别应用为例，后台分析模块需同时接入数万路视频流，快速完成人脸检测与识别处理，在不影响用户体验的时间内将结果反馈至前端，对算法效率及并发处理能力提出极高要求。同时，人脸识别终端每天将产生数万张人脸图像数据，累计千万级数据用于算法模型的迭代优化。在应用方面，一般计算平台与硬件无法满足高并发场景实时处理能力，导致应用部署硬件成本极高，在训练方面，无法提供对海量数据的训练能力，或需要数周时间方可完成一次训练，耗费了大量时间与测试成本。
同时，视频智能分析应用涉及领域广泛，研究人员需要频繁对不同框架下算法进行验证测试与优化。一般平台无法提供快速便利的环境部署能力，且在多用户场景下经常导致环境相互冲突。导致研发人员耗费大量时间进行环境搭建及维护，严重影响研发效率。
GPU计算平台
为训练及推理带来加速
中国移动研究院基于搭载了8片Tesla V100 GPU 的NVIDIA DGX-1及NVIDIA-Docker平台，为内部研发人员搭建了深度学习验证及训练一体化平台。
在模型训练方面，利用Tesla V100 GPU的大容量显存及高速运算能力，能够采用更大Batch Size处理海量数据进行权重优化，使模型训练过程更加稳定高效。在提升算法精度同时，显著降低了算法迭代优化的时间成本。以视频超分辨率为例，通过将Batch Size翻倍进行4k超高清视频帧的超分辨率处理，相比于原TITAN Xp GPU平台训练效率提升了3倍以上，模型精度提升了10%。
在算法应用方面，在Tesla V100 GPU高速运算能力基础上，利用NVIDIA TensorRT进行模型推理加速，并利用Tesla V100 GPU大容量显存，通过消息队列等方式提高算法并发处理能力。以火灾检测为例，通过TensorRT对模型进行加速优化，在不损失算法精度条件下，将推理效率提升了5倍以上，在此基础上通过消息队列等方式充分利用GPU显存空间及运算能力，将并发处理性能提升30倍。
在研发测试方面，利用NVIDIA-Docker平台部署多种深度学习框架多版本镜像，提供独立环境一键部署能力，平均每次可节省研发人员1～2天环境部署时间及后续大量环境维护时间成本，提高研发测试效率。
GPU计算平台加速产品研发
中国移动研究院致力于视频图像AI相关技术研究及自主产品研发。使用NVIDIA DGX-1、NVIDIA-Docker平台及TensorRT等平台，极大提升了中国移动研究院在图像视频智能分析领域研发、测试、应用的效率，进一步提升了已有产品的优化能力及新需求功能的实现能力，为产品的应用推广及业务扩展打下良好的基础。
基于NVIDIA DGX-1及NVIDIA-Docker平台，中国移动研究院能够高效进行图像视频智能分析能力与产品的迭代优化，面向具体应用场景快速定向优化算法性能，迅速完成对新需求的响应开发，基于TensorRT等技术，提供高可靠高并发处理能力的视频智能分析产品。通过降低 AI 技术建设和运营成本，提高企业生产效率，更利于抓住市场机遇。
