在自动驾驶领域,3D模拟平台至关重要,因为它们能够进行端到端的策略评估,从而降低开发成本并提高安全性。近年来,神经模拟方法逐渐占据主导地位,其中NuRec方法发挥了核心作用;然而,这些方法的速度相对较慢,并且通常需要对每个场景进行调优。
在本研究中,我们提出了Instant NuRec,这是一种前馈神经重建模型,能够将短暂的多视角驾驶日志转化为一个完全可模拟的3D高斯喷涂(3DGS)世界,并只需一次前向传递。该模型接受来自校准摄像机设备的多视角输入,并输出包含静态和动态3DGS层、天空立方体贴图以及每台摄像机的ISP校正的分层输出,同时通过3DGUT原生支持非针孔相机模型。它重建一个10-20秒的多摄像头场景大约只需1.5秒,并且在Waymo开放数据集上实现了比最强评估基线高出2.01 dB的峰值信噪比(PSNR)。Instant NuRec与NuRec深度集成,并兼容AlpaSim以实现闭环模拟。
博主点评: Instant NuRec的提出标志着3D场景模拟技术的一个重要进步,尤其是在自动驾驶领域。通过减少场景重建的时间和提高输出质量,此模型有望大幅提高自动驾驶系统的开发效率和安全性。