什么是降噪?
2022-12-26 13:44
降噪是一种先进技术,可用于减少图像中的颗粒和变色,并能够最大限度避免图像质量下降。
使用数码相机拍过照片的人应该都十分熟悉“噪点”,这是一种会使照片清晰度和锐度降低的变色斑点。
许多摄影师都有减少图像噪点的技巧和窍门,比如校正相机镜头的设置,或在不同的光线下进行拍摄。事实上,不仅是拍摄出的图像会因噪点看起来有混色,在计算机图形中噪点的影响也非常常见。
噪点指的是不属于原始图像的随机亮度和颜色变化。“去除图像中的噪点”这一过程被称为“降噪”,这在图像处理和计算机视觉领域正变得越来越普遍。
图像降噪技术能利用先进的算法去除图形和渲染中会对图像质量产生巨大影响的噪点。如若不使用降噪技术,就不可能实现逼真的视觉效果和身临其境的渲染效果。
什么是降噪?
在计算机图形学中,图像由有用的信息和会降低清晰度的噪点组成。最理想的降噪结果是生成一个只保留有用信息的清晰图像。在对图像进行降噪时,保留视觉细节与组成部分也同样十分重要(如边缘、棱角、纹理和其他具有鲜明结构的特征等)。
为了在不影响视觉细节的情况下减少噪点,必须对图像中的三类信号进行降噪:
漫反射:沿所有方向反射的散射照明
高光或反射:沿特定方向的照明
无限远光源产生的阴影:太阳或任何其他无限远光源的可见性信息(阴影)
为创建最清晰的图像,用户必须按照漫反射和高光信号的方向投射数千条光线。但在实时光线追踪中,通常平均每个像素只使用小于等于一条光线。
在实时光线追踪中,所使用的光线数目越低,越能保持实时交互性能,因此降噪必不可少。
每个像素与一条光线相匹配的噪点图像。
如何进行降噪?
图像降噪通常基于三种技术:空间过滤、时间累积以及机器学习和深度学习重建。
示例:经过空间和时间降噪后的最终图像。
空间过滤是通过重新使用相似的相邻像素,有选择性地改变图像的某些部分。空间过滤的优点是不会产生时间滞后,因此能够立即响应不断变化的流动条件。但空间过滤会产生模糊、混浊以及时间的不稳定性,会造成图像中的闪烁和视觉缺陷。
时间累积会重复使用前一帧数据,以确定当前帧中是否存在可以纠正的伪影或视觉异常。尽管时间累积造成时间滞后,但它并不会产生模糊,相反它增加了时间稳定性以减少多帧闪烁和伪影。
示例:20 帧时间累积。
机器学习和深度学习重建使用神经网络来重建信号。该神经网络是使用各种噪点和参考信号训练而成的。尽管单帧的重建信号看起来很完整,但它会随着时间的推移逐渐暂时失去稳定性,因此需要采用一种时间稳定的形式来进行降噪。
图像中的降噪
降噪能够向用户提供即时视觉反馈,因此用户可以查看图形和设计并与之交互,以便用户就能够对光线、材质、视角、阴影等变量进行各种尝试。
开发者可以使用 NVIDIA 实时降噪器(NRD)等解决方案,轻松将降噪技术整合到流程中。NRD 是与 API 无关的时空降噪库,主要用于处理 low ray-per-pixel 信号。
NRD 利用输入信号和环境条件来提供能与真实图像媲美的结果。请看下面的 NRD 实际应用视频:
开发者能够利用 NRD,在每像素光线受限的情况下实现实时结果。开发者可在以上视频中详细了解 NRD 如何“举重若轻”地实时解决图像噪点问题。
“消逝的光芒 2(Dying Light 2)”“杀手 3(Hitman III)”等热门游戏都使用了 Real-Time Denoisers(NRD)进行降噪。
NRD 在 Techland 的“消逝的光芒 2:人与仁之战(Dying Light 2 Stay Human)”实现了出色的效果。
NRD 支持对漫反射、高光以及阴影信号的降噪。NRD 包含以下降噪器:
ReBLUR:基于自稳定循环模糊概念的降噪器,专门用于处理使用低光线预算生成的漫反射和镜面反射信号
SIGMA:快速阴影降噪器,支持来自任何类型光源(如太阳光、局部光源)的阴影
ReLAX:保留 NVIDIA RTX Direct Illumination 产生的照明细节。该框架可赋能开发者实时渲染具有数百万动态区域灯光的场景。ReLAX 还能提高时间稳定性,并持续响应不断变化的照明条件