逆渲染技术,让3d 场景变成立体街景

要把一个2D的平面世界搞成3D的立体场景,逆渲染这门技术确实让人大开眼界。早在0175年前,宝丽来就把这种变化给搞反了。他们推出了第一款即时成像相机Polaroid 95,只需要短短一分钟,就能把活生生的3D世界硬塞进一张2D的照片里。谁能想到呢?几十年后,人类反而学会了“反着来”,利用AI技术仅仅用几秒钟就能把静态的照片“吹”成活灵活现的3D场景。这条反其道而行之的路子,学术界给它起了个名字叫逆渲染(inverse rendering)。说白了,就是让AI去估算光线在真实世界里是怎么跑的,只要几张不同角度的2D图,就能把完整的3D空间给还原出来。到了2020年,神经辐射场(NeRF)这种厉害的神经网络火了。它解决了一个难题:人类只看一眼就能知道物体有多远,可AI以前做不到。不过,这技术虽然强大,也有自己的“小脾气”。想让NeRF运作起来,摄影师得像拍明星红毯那样,飞快地从四面八方给物体拍照,因为动作稍微慢一点,画面里只要有人动一动或者物体换个位置,生成的3D画面就会糊成一片。为了补全那些被挡住的细节,NeRF会训练一个小型神经网络来预测3D空间里任意一点朝着哪个方向射出去的光是什么颜色。哪怕是被柱子挡住的东西它也能给挖出来看个清楚。不过话说回来,这东西也有个大麻烦:每渲染一帧都得花上30秒时间。单靠一块GPU去训练那是相当费功夫的事,甚至可能得耗上好几个小时甚至一整天才能算完。而且渲染出来的图像边缘还带着明显的锯齿感。好在这不是终点。后来英伟达带着Multi-resolution Hash Encoding技术登场了,把训练速度硬生生拉到了“秒级”。研究人员搞了一套全新的输入编码法,搭了个高速微型神经网络出来。只要显卡上有Tensor Core这种东西加持,就能在英伟达自家的GPU上跑出单帧渲染仅需几秒的极速体验。这套CUDA + Tiny CUDA神经网络库的组合拳非常给力,把整套模型的训练和推理都能装到单块NVIDIA GPU上。这样一来,不管是机器人、自动驾驶还是建筑可视化这种场景里的活儿都能做得更顺手。英伟达还透露说,以后这套哈希编码技术还能拿去帮忙搞强化学习或者语言翻译那些AI任务呢。苹果那边也不甘示弱。他们搞出了一个叫GAUDI的玩意儿——名字是致敬那位西班牙的高迪建筑师的。这个家伙不光能从摄像机里渲染出那种让你仿佛置身其中的3D场景来,甚至还能根据你说的一句话直接“捏”出一个3D模型出来。它是靠三个解码器一块儿干活来完成这项任务的:相机姿态解码器用来预测相机移动的位置;场景解码器负责把辐射场的条件变量输到3D画布上;辐射场解码器则用体积渲染方程把像素值给重建出来。这三网一起优化了以后效果就很好了。 整个流程分两个阶段走。第一阶段先学习几千条轨迹里的3D辐射场和相机姿态;第二阶段再让扩散模型在潜在空间里生成学习过程的代码。GAUDI能支持“文本→场景”,也能支持“轨迹→场景”的转换。做实验的时候用了四个数据集来测试它的表现。它既能保住画质还不会出现那种模式崩溃或者方向跑偏的问题。未来GAUDI说不定就能跑进苹果的XR耳机里面去实时生成数字化场景呢。 再说说谷歌那边的动静。他们早就把NeRF技术用上了卫星图变成立体街景这种事儿了。甚至还能从视频里“抠”出3D的人体出来给AR健身App提供骨骼级动画效果。谷歌Dream Fields也是一个不错的案例,它能根据文本生成单个物体的3D模型。可惜如果想把它扩展到整个房间这么大的场景上就有点困难了——摄像机的位置受限制太多了,要是障碍物一多那生成出来的视角就很容易“翻车”。 英伟达Research也在不断往前赶步子呢。他们在Instant NeRF的基础上又推出了3D MoMa。你只要给系统投喂几十张静态照片和一些外参数据进去,系统就能在几十毫秒内渲染出分辨率高达1920×1080的3D场景;再花上一小时的时间用单块Tensor Core GPU就能吐出干净的三角网格模型出来。跟以前那种靠摄影测量的老方法比起来,3D MoMa弄出来的模型不光带拓扑结构和材质信息还有光照效果呢,能直接塞到游戏引擎或者扫描软件里去用。官方都直接说了:Instant NeRF对于3D世界来说有多重要啊?“不亚于数码相机+JPEG对于2D摄影的冲击”那么厉害!以后这东西会在虚拟会议室、数字地图还有机器人视觉这几个领域里大批量上岗干活了。 说到底啊,AI这东西就像一把神奇的钥匙。它把以前那些复杂得让人头秃的三维制作流程给简化了:拍几张照片、写几句提示语,电脑就能立马搞定拓扑结构、光照效果还有材质甚至是交互逻辑这些事儿了。现在逆渲染的速度要是能按秒来算的话,三维制作就再也不是专业人士的专利啦——谁都能用手机随手“拍一拍”,就能让现实世界瞬间拥有自己的数字孪生体了。 再过七年时间左右吧?我们或许真的能不用动手只用眼神就能指挥机器人给咱们倒咖啡了;自动驾驶汽车也能用AI生成的3D世界提前把路线给规划好。现在看起来好像很科幻似的?其实这些技术都已经在实验室里悄悄地跑通啦!