首页 > 最新资讯 > NVIDIA Quantum InfiniBand 打造 AI 时代 GPU 计算的高性能存储技术
NVIDIA Quantum InfiniBand 打造 AI 时代 GPU 计算的高性能存储技术

NVIDIA Quantum InfiniBand 打造 AI 时代 GPU 计算的高性能存储技术

2022-07-15 20:10

#人工智能 #深度学习


焱融科技借助 NVIDIA Quantum InfiniBand 技术推出了追光 F8000X 全闪分布式文件存储一体机, 为 HPC / AI 计算提供高效、灵活、经济的解决方案。

InfiniBand 技术正在不断创造更高的数据吞吐量记录,目前 200Gbps 网络已经普及,400Gbps 紧随其后。同时,还可以通过 multi-path 技术将多网卡带宽性能聚合。原生支持 RDMA 技术,在保证高带宽输出的基础上,大大降低数据访问延迟,为高性能计算、人工智能云计算、存储等众多数据密集型应用提供了强大的网络性能支撑。

焱融科技借助 NVIDIA Quantum InfiniBand 技术推出了追光 F8000X 全闪分布式文件存储一体机产品 ⸺ 通过结合 InfiniBand 技术和追光 F8000X 针对海量小文件、高并发访问等方面的优化设计,获得了超高性能的表现。同时,得益于分布式存储架构和数据智能分层功能,实现了弹性空间扩展,并有效平衡数据存储成本。

传统存储方案面临

存储空间浪费和成本上升的挑战

 

随着 GPT-3 技术的快速发展,焱融科技的一位高科技企业客户的 AI 训练平台突破了百亿数据规模,面临着如何保证在训练过程中,海量小文件的处理性能和大量客户端高并发下的存储并行访问能力等问题。

目前,传统存储方案普遍存在以下几个问题:

难以解决海量小文件。

处理过程中呈现性能低下的状态。

需要堆叠大量的存储节点才能满足高并发带宽访问需求。

因此,造成了严重的存储空间浪费并导致成本的提升,在此情况下,该企业客户迫切希望提升模型迭代速度,并尽可能缩短结果产出周期。

NVIDIA Quantum InfiniBand 

助力焱融追光F8000X 构建高性能人工智能数据平台

 

针对用户的需求痛点,焱融科技提出了性能与成本兼顾的解决方案 ⸺ 焱融追光 F8000X 解决方案,基于高性能分布式并行文件存储系统 YRCloudFile ,结合 NVMe SSD 、InfiniBand 高速网络,在充分释放性能的同时,实现系统随着业务需求动态增加节点数量,使得存储容量和存储性能都以线性方式增长。

NVIDIA Quantum InfiniBand 作为业内领先、性能卓越的网络平台,为 AI 、数据分析和高性能计算(HPC)应用提供高性能、高可靠,以及超低时延的网络连接能力。因此,NVIDIA Quantum InfiniBand 成为焱融追光 F8000X 的首选网络解决方案。

焱融追光 F8000X 通过 NVIDIA Quantum InfiniBand 在 GPU 计算服务器和存储设备之间构建的高带宽和低延迟数据传输网络,以满足数据密集型应用系统的网络性能要求。对于存储网络,采用双 HDR 200Gbps InfiniBand 网卡,通过 multi-path 实现网卡聚合,理论可提供高达 400Gbps 的带宽性能,并支持 RDMA 技术,保证高带宽输出的同时,大幅度降低了数据访问延迟。

AI 训练平台存储解决方案架构图

通过追光 F8000X 所具备的海量小文件、高并发访问等特点,以及智能分层功能将冷数据自动下沉到本地对象存储,有效解决平衡数据存储成本和空间扩展的问题。

<p style="\'margin:" 0px="" 0em;padding:="" 0px;clear:="" both;min-height:="" 1em;color:="" rgb(51,="" 51,="" 51);font-family:="" mp-quote,="" -apple-system-font,="" blinkmacsystemfont,="" "helvetica="" neue",="" "pingfang="" sc",="" "hiragino="" sans="" gb",="" "microsoft="" yahei="" ui",="" yahei",="" arial,="" sans-serif;font-style:="" normal;font-variant-ligatures:="" normal;font-variant-caps:="" normal;font-weight:="" 400;letter-spacing:="" normal;orphans:="" 2;text-indent:="" 0px;text-transform:="" none;white-space:="" normal;widows:="" 2;word-spacing:="" 0px;-webkit-text-stroke-width:="" 0px;text-decoration-thickness:="" initial;text-decoration-style:="" initial;text-decoration-color:="" initial;font-size:="" 17px;text-align:="" center;\'="">

相关新闻