NVIDIA 建AI计算平台 为医疗仪器和设备提供实时传感技术支持
2021-11-11 12:23
#人工智能 #深度学习 #GTC21
分享到微信
分享到微博
开发者可利用 Clara Holoscan 构建应用,用以处理多模态传感器数据、运行基于物理性质的模型、加速 AI 推理和实时渲染高质量图形
AI 医疗设备技术创新为医疗健康专业人员提供更好的决策工具,在机器人辅助手术、介入放射学和放射治疗规划等方面提供帮助。
为了在临床应用方面实现这一点, AI 医疗设备必须具有一个加速流程来实时处理和预测数据,并将其可视化。
NVIDIA Clara Holoscan 是医疗健康行业的新计算平台,基于NVIDIA AGX Orin,能为可扩展、软件定义、端到端流媒体数据处理的医疗设备提供所需的计算基础设施。
作为一个可将医疗设备与边缘服务器无缝连接的端到端平台,NVIDIA Clara Holoscan 可助力开发者创建 AI 微服务,用以在设备上运行低延迟串流应用,同时将更复杂的任务传至数据中心资源。
NVIDIA Clara Holoscan介绍视频
几乎每台智能医疗设备都具有类似的处理流程。该流程始于传感器,历经数据域,然后实现可视化,便于人类进行决策。工作流程每个阶段所需的计算水平视所用设备(CT 扫描仪、内窥镜或 ICU 室内摄像机)而有所差异。
NVIDIA Clara Holoscan 可加速以下每个阶段:
高速 I/O:NVIDIA GPUDirect RDMA 借助 NVIDIA ConnectX 智能网卡或第三方 PCI Express 卡,可以将数据直接流式传输到 GPU 显存,以便实现超低延迟下游处理。
物理处理:在数据传输到 GPU 后,CUDA-X 和 NVIDIA Triton 推理服务器将加速基于物理性质的计算或 AI 处理,将传感器数据转换到图像域。例如,X 射线和 CT 中的图像重建或超声波中的波束成形。
图像处理:使用 NVIDIA Triton 将图像数据输入到 AI 模型中,用以检测、分类、分割或目标追踪。
数据处理:使用 NVIDIA cuCIM 库将传感器的图像数据流与之前获取的其他图像相结合,开发者可以使用电子健康记录等补充信息对数据进行配准或者增强。
渲染:通过 Clara 渲染服务器,开发者可以实时地将设备数据和预测数据进行3D可视化,或使用 NVIDIA Omniverse 进行交互式电影级渲染,或使用 CloudXR 来增强现实。例如,给临床医生一个更好的器官或肿瘤分割图像。
作为可扩展的体系架构,Clara Holoscan 能够从医疗设备扩展到 NVIDIA 认证边缘服务器,再到数据中心或云中的 NVIDIA DGX 系统。开发者可通过此平台,按需在其医疗设备中充分添加或减少计算和输入/输出功能,从而平衡延迟、成本、空间、性能和带宽的需求。
许多医疗设备公司正在将 AI 和机器人技术融入其中,在机器人手术、移动 CT 扫描、支气管镜检中使用 NVIDIA 加速计算平台。
NVIDIA Clara Holoscan 旨在通过帮助设备制造商从设备纵向扩展到数据中心,并通过利用领域众多的 NVIDIA AI 解决方案实现横向扩展,以便更好地支持此类应用。
为了加速多种传感器输入的实时医疗设备的发展,Clara Holoscan 平台支持来自 NVIDIA Inception AI 和数据科学初创公司加速器计划成员的 I/O 卡,包括:
AJA 视频系统 - 用于内窥镜检查和手术可视化应用的视频采集卡。
KAYA 仪器 - 用于显微镜和科学成像仪器的视频采集卡。
us4us - 用于软件定义超声波解决方案开发的研究型前端设备。
Verasonics 是超声波研究前端硬件的领导者,它将支持 Clara Holoscan使用高速网络技术将数据直接流式传输到 NVIDIA GPU。
Clara·Holoscan SDK:一次开发,任意部署
借助 Clara Holoscan,开发者可以自定义应用,将其作为设备和服务器上的一系列模块化微服务运行。由于 Clara Holoscan 是由软件定义,医疗设备公司可以随着时间的推移持续不断地升级和改进其解决方案。
Clara Holoscan SDK 通过加速库、AI 模型和超声波、数字病理学、内窥镜检查等参考应用支持此项工作,以帮助开发者利用嵌入式和可扩展的混合云计算。有了端到端的部署平台,企业可以更容易地升级应用,为医学的日常实践带来新的研究突破。
分享到微信
分享到微博