3D场景渲染的演变:从NeRF、ADOP、Gaussian Splatting 到 TRIPS

分类:3DAI/ML 标签:
Save and Share:

3D图形领域见证了显著的演变,尤其是在用于渲染复杂场景的技术方面。本文深入探讨了塑造这一领域的三个关键技术:NeRF(神经辐射场)、ADOP(近似可微单像素点渲染)、Gaussian Splatting(高斯溅射)以及 TRIPS(用于实时辐射场渲染的三线性点溅射)。每项技术都代表着我们在创造更逼真虚拟世界征程中的一次飞跃。

神经辐射场 (NeRF)

NeRF 作为一项突破性方法脱颖而出,它将一系列 2D 图像转换为可导航的 3D 场景。它使用神经网络来学习场景的高分辨率 3D 表示,从而能够以惊人的细节和照片般真实的程度渲染来自不同视角的图像。这项技术已在从虚拟现实到自主导航等各个领域找到了应用。

Instant NeRF:更进一步

Instant NeRF 是 NeRF 技术的一项显著进步。它由 NVIDIA 开发,显著加快了处理速度,只需几秒钟即可在少量照片上完成训练,并在毫秒内渲染 3D 场景。这种快速渲染能力为实时应用开辟了新的可能性,并可能彻底改变 3D 内容创作。

ADOP:近似可微单像素点渲染

ADOP,即 Approximate Differentiable One-Pixel Point Rendering(近似可微单像素点渲染)的缩写,是由 Darius Rückert、Linus Franke 和 Marc Stamminger 引入的基于点的可微神经渲染管线。该系统旨在将校准后的相机图像和场景的代理几何体(通常是点云)作为输入。然后,使用学习到的特征向量作为颜色来栅格化点云,并采用深度神经网络来填充间隙并为每个输出像素着色。

ADOP 中的栅格化器将点渲染为单像素斑点,这不仅速度非常快,而且还允许有效计算关于所有相关输入参数的梯度。这使得它特别适用于需要实时渲染速率的应用,即使对于超过 1 亿个点的模型也是如此。

此外,ADOP 还包含一个完全可微的基于物理的光度相机模型,该模型涵盖曝光、白平衡和相机响应函数。通过遵循逆渲染的原理,ADOP 改进其输入以最大限度地减少不一致性并优化其输出质量。这包括优化结构参数(如相机姿势、镜头畸变、点位置和特征)以及光度参数(如相机响应函数、渐晕以及每图像曝光和白平衡)。

由于 ADOP 能够平滑处理具有不同曝光和白平衡的输入图像,并且能够生成高动态范围输出,因此它代表了神经渲染领域的重大进步。如果您对计算机图形学,特别是高斯溅射的替代方案感兴趣,那么 ADOP 的点栅格化和场景优化方法可能与您的工作或研究非常相关。

高斯溅射

转向传统方法,高斯溅射 是一种经过尝试和测试的体绘制和基于点的图形技术。它使用高斯分布将 3D 数据投影到 2D 平面上,从而创建平滑过渡并以令人印象深刻的清晰度渲染医学扫描等体积数据。

近期发展

最近的进展引入了 3D 高斯溅射 (3DGS),它加快了渲染速度并提供了场景的显式表示。这有助于动态重建和编辑任务,突破了传统溅射方法所能达到的界限。

TRIPS:实时渲染的前沿

TRIPS 代表着最前沿的技术,结合了高斯溅射和 ADOP(自适应密度点云)的优势。它将点栅格化为屏幕空间图像金字塔,允许使用单个三线性写入来渲染大点。然后,一个轻量级神经网络重建详细的、无空洞的图像。

TRIPS 的优势

  • 实时性能:TRIPS 在标准硬件上保持 60 fps 的帧率,使其适用于实时应用。
  • 可微渲染管线:管线的可微性意味着可以自动优化点的大小和位置,从而提高渲染场景的质量。
  • 应对挑战性场景的质量:TRIPS 擅长渲染复杂几何体和广阔的景观,与以前的方法相比,提供了更好的时间稳定性和细节。

TRIPS 管线

TRIPS 将点云三线性渲染为 2x2x2 斑点到多层特征图中,结果通过一个小型神经网络,每层仅包含一个门控卷积。该管线是完全可微的,允许通过梯度下降优化点描述符(颜色)和位置,以及相机参数。
三线性点溅射:(左)所有点及其各自的大小都投影到目标图像上。基于此屏幕空间大小,每个点都使用三线性写入(右)写入图像金字塔的正确层。大点被写入较低分辨率的层,因此在最终图像中覆盖更多空间。

TRIPS 资源

总结

从 NeRF 到 TRIPS 的历程概括了 3D 场景渲染的快速发展。随着我们朝着更高效、更高保真的方法迈进,创建沉浸式虚拟体验的潜力变得越来越触手可及。这些技术不仅突破了图形学的界限,也为从娱乐到城市规划等各个行业的创新铺平了道路。

对于那些寻求深入研究这些技术的人来说,可以获得丰富的资源,包括全面的评测和开源平台,这些平台促进了 NeRF 项目的开发。3D 渲染的未来是光明的,正是像 NeRF、高斯溅射和 TRIPS 这样的技术将照亮前进的道路。

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注