NVIDIA 携手微软打造大规模云端 AI 计算机
2022-11-29 12:15
分享到微信
分享到微博
通过 Azure 上的 NVIDIA 计算与
Quantum-2 InfiniBand 实现可扩展峰值性能
加速 AI 的开发和部署
另外，该平台将支持广泛的 AI 应用和服务，包括微软 DeepSpeed 和 NVIDIA AI Enterprise 软件套件。
微软 DeepSpeed 将使用 NVIDIA H100 Transformer 引擎来加速基于 Transformer 的模型，这些模型可用于大型语言模型、生成式 AI 和编写计算机代码等应用。该技术将 8 位浮点精度能力应用于 DeepSpeed，大大加快了 Transformer 的 AI 计算速度，使其吞吐量达到 16 位运算的两倍。
被全球企业广泛采用的 NVIDIA AI 平台软件 NVIDIA AI Enterprise 已通过认证并支持搭载 NVIDIA A100 GPU 的微软 Azure 实例。未来的软件版本将增加对搭载 NVIDIA H100 GPU 的 Azure 实例的支持。
NVIDIA AI Enterprise 包括用于语音 AI 的 NVIDIA Riva 以及 NVIDIA Morpheus 网络安全应用框架，可简化从数据处理和 AI 模型训练到仿真和大规模部署等 AI 工作流中的每一步。
