摘要
互动3D分割旨在通过最少的用户点击从点云中提取物体掩膜。尽管近期取得了一些进展,现有方法仍面临以下挑战:
- 粗糙的体素分辨率导致在有限点击下细边界模糊;
- 因背景结构混淆而产生的难以识别的假阳性。
数据集间的密度和尺度变化(例如,稠密的RGB-D重建与稀疏的LiDAR扫描)使得固定的细化启发式和纯点击驱动的解码难以泛化。为了解决这些问题,我们提出了NegROI——一种新颖的基于变换器的互动框架,结合了以点击为中心的多分辨率细化和场景条件负提示。
在给定粗体素预测的情况下,NegROI仅在当前点击周围的局部兴趣区域(ROI)上进行细化,并将细化后的logits融合回粗掩膜中。为了提高鲁棒性和效率,我们引入了基于不确定性的选择性细化,优先考虑模糊区域。同时,我们通过跨注意力机制获取一组场景条件的负提示,来建模难以识别的背景模式,并用多样性正则化器来稳定这些提示。最后,我们提出了边界感知的硬负样本挖掘,以监督负提示注意力集中在接近边界的高置信度假阳性上。
在常见基准数据集(如ScanNet、S3DIS和KITTI)上的实验表明,NegROI在点击效率和假阳性减少方面表现出色,相较于现有最先进的基线模型具有更强的跨数据集鲁棒性。
博主点评: NegROI结合了多种创新技术,特别是在处理不确定性和背景噪声方面,显示了其在互动3D分割中的巨大潜力。该方法的有效性不仅体现在实验结果上,更为未来的研究提供了新的思路,尤其是在多样性正则化和负样本挖掘方面的应用,值得深入探索。