在语义视觉任务上,视觉-语言模型(VLMs)和代理AI展现了强劲的性能,但它们是否能够处理计算成像的物理和逆问题仍不明确。我们提出了ImagingBench,这是一个包括20个计算成像任务的基准,涵盖五个类别:光线和波动光学、图像信号处理、逆重建、计算传感和校准。
ImagingBench评估了三种互补设置:1. 专家(Expert):固定专家指导的逆重建;2. 规划者(Planner):规划者指导的逆重建;3. 前向(Forward):用于一致性检查的前向系统仿真。我们对领先的专有和开源图像中心多模态系统进行了基准测试,包括Gemini、GPT和Qwen,并将其与代表性的任务特定非代理基线进行了比较。
在各项任务中,代理模型的表现始终弱于专门方法,尤其是在计算传感问题上,如无透镜成像、事件驱动重建、飞行时间成像和全息成像。规划者指导相比固定提示的专家基线只提供了温和且不一致的增益。
虽然这些模型经常生成视觉上可信的输出,但它们的参考基础保真度仍然较差,揭示了语义视觉能力与物理基础成像性能之间存在显著差距。ImagingBench为测量这一差距和追踪代理AI在计算成像领域的进展提供了统一的测试平台。
博主点评: 这项研究揭示了当前代理AI在计算成像领域的局限性,尤其是在处理复杂的物理问题时。尽管这些模型在视觉生成上表现良好,但在实际应用中仍需依赖专业方法。ImagingBench的提出为未来的研究提供了重要的基准和方向。