首页 > 最新资讯 > NVIDIA推出Nsight Deep Learning Designer 2021.1
NVIDIA推出Nsight Deep Learning Designer 2021.1

NVIDIA推出Nsight Deep Learning Designer 2021.1

2021-09-01 09:52

#人工智能 #深度学习


 
近日,NVIDIA宣布推出Nsight DL Designer——第一个支持高效设计深度神经网络以进行应用内推理的集成开发环境,现已提供下载。

该工具旨在通过在过程的每个阶段提供有效的支持,来简化为应用内推理设计深度神经网络模型的经常迭代过程。

Nsight DL Designer是一种基于GUI的模型设计工具,具有基于GPU指标的集成评测功能。它提供了一种将模型导入PyTorch进行训练的便捷方式。可视化分析模式允许开发人员以交互方式实时深入推理过程,并提供灵活的选项导出最终模式以进行推理部署。

 

端到端Nsight DL Designer工作流

开发人员首先在Nsight DL Designer中设计他们的深层神经网络模型,使用一组由NVIDIA实现的内置高级神经网络层作为NvNeural推理引擎。创建模型后,可以进行性能分析,以了解模型是否满足分配的时间预算。分析可以提前完成,甚至可在开发人员花时间训练网络之前。

对于训练阶段,Nsight DL Designer提供了各种Python脚本,可以自动将Nsight DL Designer模型转换为PyTorch模型,该模型可以轻松添加到训练循环中。训练完成后,开发人员可以将模型中学习到的权重数据保存到NumPy文件中。然后可以返回DL Designer,加载权重文件并进入分析模式以检查推理结果。分析模式还允许开发人员深入推理过程,直观地检查每个推理步骤中发生的事情。此反馈可能会指导开发人员优化其网络模型,以提高质量和性能。

一旦开发人员对模型的质量和性能都感到满意,就可以进行部署了。Nsight DL Designer提供了几种支持部署模型的方法。一种方法是将模型导出为ONNX文件。通过使用ONNX文件,开发人员可以在任何运行ONNX 的平台上部署自己的模型。

 
 

此版本的主要功能包括:

基于GUI的神经推理机模型设计

使用GPU度量的推理性能评测

与训练框架的接口– PyTorch

推理过程的交互式可视化分析

用于部署的自动化模型导出和代码生成

相关新闻