今天，英伟达再造了16世纪的米开朗基罗「Neuralangelo」。
快看，Neuralangelo「复刻」出3D版的著名雕像大卫，大理石的细节、纹理栩栩如生。
要知道，收藏在佛罗伦萨美术学院的大卫雕像，仅身高3.96米，加上基座都有5.5米。
它甚至可以重建一栋建筑物的内外部结构，屋顶瓦片、玻璃窗格、还有各种细节都一一再现。
这一切，都是「神经朗基罗」（Neuralangelo）的魔法。
来自英伟达和约翰霍普金斯大学的研究人员提出的新型AI模型，利用神经网络重建3D物体。
最新研究已被CVPR 2023录用。
论文地址：https://research.nvidia.com/labs/dir/neuralangelo/paper.pdf
特别是，Neuralangelo可以从手机视频，无人机拍摄的视频重建「高保真的大规模场景」。
那岂不是未来，就能轻易地把一座城市、甚至外太空的视频，变成一个沉浸式的世界，再装进游戏去体验。
网友惊呼，英伟达黑了「矩阵」世界！
甚至，还有人称，苹果XR技术，再加上Neuralangelo，就能创造「new worlds」了。
效果演示
英伟达的总部
破旧的卡车
Ignatius的雕像
重建3D场景
以前的AI模型在重建3D场景时，往往难以准确捕捉到重复的纹理模式、均匀的颜色以及强烈的色彩变化。
为此，团队提出了一个将多分辨率3D哈希网格的表征能力和神经表面渲染相结合的全新方法——Neuralangelo。
去年，英伟达研究人员曾创造了一种新工具3D MoMa，将照片变成3D物体易如反掌。
NeuralAngelo建立在这一概念的基础上，允许导入更大、更详细的空间和对象。而它特别之处在于，可以准确捕捉重复的纹理模式、同质的颜色和强烈的颜色变化。
通过采用「即时神经图形基元」，也就是NVIDIA Instant NeRF技术的核心，Neuralangelo由此可以捕捉更细微的细节。
团队的方法依赖于2个关键要素：
（1）用于计算高阶导数作为平滑操作的数值梯度；
（2）在控制不同细节级别的哈希网格上进行由粗到细的优化。
即使没有辅助深度，Neuralangelo也能有效地从多视图图像中恢复密集3D表面结构，其保真度显著超过了以往的方法，使得能够从RGB视频捕捉中重建详细的大规模场景。
构建NeuralAngelo
NeuralAngelo模型是在多分辨率哈希编码，以及基于SDF的体积渲染上进行构建。
第一步：使用数值梯度来计算高阶导数
通过使用与哈希网格空间分辨率匹配的步长的数值梯度，可以优化超越局部单元。与解析梯度相比，数值梯度对SDF起到了平滑操作的作用。
第二步：逐步细化细节层次
通过逐步减小数值梯度的步长，并启用更高分辨率的哈希网格，优化的效果可以更好地恢复大面积的光滑表面和精细的几何细节。这种学习过程能够逐步提高细节的层次感。
第三步：优化
NeuralAngelo使用三个优化目标：
RGB合成损失
：输入图像和合成图像之间的RGB重建损失。
Eikonal损失
：对底层SDF进行正则化处理，使其表面法线为单位正则。
曲率损失
：对底层SDF进行正则化处理，使平均曲率不会任意变大。
「神经朗基罗」构建好了，那么它又是如何运作的呢？
可以说，Neuralangelo还原了米开朗基罗刻画大卫的整个过程：
· 首先，模型会从2D视频中选择几帧从不同角度拍摄的物体/场景的画面，并由此「看到」其深度、大小和形状。这个过程就像雕塑艺术家一开始会从多个角度构图那样。
· 然后，模型会创建一个粗糙的3D场景表征，就像艺术家开始凿刻主体的形状。
· 最后，模型会优化渲染以提高细节的清晰度，就像艺术家通过精心地修饰来模仿织物或人形的纹理。
在DPU基准定性比较中， Neuralangelo产生更准确和更高保真度的表面。
如下是Neuralangelo在DTU数据集中的定量结果，模型获得了很好的重建精度和图像合成质量。
在不同的从粗糙到精细优化方案定性比较中，当使用分析梯度AG和AG+P，物体粗糙表面还有伪影。
当使用数字梯度（NG）时，能够重建一个比较好的粗糙表面，细节也被平滑。
而英伟达的解决方案（NG+P）能够生成光滑的表面，以及精细的细节。
最终的结果是一个可以在虚拟现实应用、数字孪生或机器人开发中使用的3D物体或大规模场景。
英伟达表示，Neuralangelo将复杂材料的纹理，包括屋顶瓦片的粗糙度、大理石的光滑度，从2D视频转化为3D物体的能力，显著超越了以往的方法。
英伟达研究部高级主任、论文作者Ming-Yu Liu对这项研究的意义给出了畅想：
「Neuralangelo提供的3D重建能力将给创作者带来巨大好处，帮助他们在数字世界中重建真实世界。这个工具最终将使开发人员能够将精细的物体——不论是小型雕像，还是大型建筑——导入视频游戏或工业数字孪生的虚拟环境中。
创意的专业人士可以将这些3D对象导入到设计应用中，进一步编辑，以供艺术、电子游戏开发、机器人技术和工业数字孪生等领域使用。
作者介绍
Zhaoshuo Li（李赵硕）
李赵硕目前还是约翰霍普金斯大学的计算机科学博士生，导师是Mathias Unberath教授、Russell H Taylor教授。
他对计算机视觉、计算机图形学、深度学习有浓厚的兴趣，研究重点是从图像中重现运动和结构。
另外，他还有非常多的爱好，是摄像师、心理健康促进者、宠物狗的爱好者、还是冲浪者、跳伞者、滑雪板运动员…
Chen-Hsuan Lin
Chen-Hsuan Lin是NVIDIA Research的一名研究科学家，从事计算机视觉、计算机图形学和人工智能方面的工作。
他在卡内基梅隆大学获得了机器人学博士学位，并获得英伟达研究生奖学金。此前，他还在Facebook AI Research和Adobe Research实习。
Lin对解决3D重建、视图合成和3D内容生产的问题非常感兴趣。其研究旨在通过从互联网规模的视觉数据中学习，赋予人工智能系统人类水平的3D感知和想象能力，向真正的3D空间智能迈进。
网友热评
英伟达科学家Jim Fan表示，
为了让你了解3D建模的人工智能发展速度：该领域在3年内从左边（原始的NeRF重建的网格）到右边（英伟达的Neuralangelo）。
将现实传送到高保真模拟中不再是一个梦想。
新的Neuralangelo模型简直是一个野兽，英伟达决定淘汰我们，R.I.P.摄影测量软件。
简直就像数字世界的「米开朗基罗」。
还有网友表示想知道，用它的成本是多少？
我们可以在工厂使用无人机，然后将视频发送到这个模型，做一个数字孪生，并使用它来优化我们的流程。
对于这项技术的意义，网友认为这对游戏行业来说影响将是巨大的。
