在机器人技术、仿真和场景理解中,使用紧凑的几何原语集表示 3D 形状至关重要。近年来,经过大规模训练的生成图像模型作为通用视觉学习者,能够在图像领域中直接识别和分割对象部分,适用于任意类别且无需特定任务的训练。
我们探讨了是否可以直接利用这些预训练模型,而无需微调,结果表明这是可行的。我们的流程首先渲染 3D 物体的多视角图像,然后利用视觉-语言模型分析其语义部分,接着提示生成图像模型绘制颜色编码的部分分割掩膜,最后将其重投影到几何形状上,并通过参数优化拟合每个部分的超二次曲面原语。
该方法不包含学习参数,具有类别无关性和方向不变性,这些是之前基于学习的模型所难以实现的。随着未来生成模型的改进,其准确性上限将不断提升,我们通过真实分割研究确认了这一点,显示部分分割而非原语拟合是当前准确性的瓶颈。在 HumanPrim 和 Toys4K 数据集上,我们的方法在所有评估方法中实现了最低的 Chamfer 距离,平均使用 5 到 9 个原语每个物体。
博主点评: 该研究展示了生成图像模型在 3D 形状表示中的潜力,尤其是在无需训练的情况下。通过将视觉-语言模型与生成模型结合,研究者成功实现了高效的形状抽象,这为未来的机器人和仿真应用提供了新的思路。其无参数的设计使得该方法在多种场景中具有广泛的适应性,值得关注。