多模态大语言模型的进展推动了多模态嵌入的提升。最近的做法通过让模型自行生成推理链来增强输入，从而得到更丰富的嵌入。但传统的检索监督仅给出成对相关性，没有明确指导生成的推理过程。推理本身不可观测，也不唯一，同一输入可能对应多条合理的推理轨迹，这些轨迹在检索效用上差异显著。现有方法只在输入条件下优化推理，限制了检索相关轨迹的探索。
为此我们提出 PILOT 框架，将推理视为潜在变量，并把其先验分布和后验分布实现为同一 MLLM 的两种推理模式。先验仅依赖输入，后验在训练时额外利用关系证据，引导更广的推理探索。为了把后验的探索收益转化为推理时的提升，我们推导了重要性加权的变分目标，并将其实现为先验‑后验协同进化机制。该机制在共享的推理兼容奖励下同步提升两种模式，并根据后验轨迹的检索效用和先验可达性，有选择地将有价值的轨迹迁移到先验。
在 78 项 MMEB‑V2 基准的 12 个任务组上，PILOT 在 2B 与 7B 参数规模下均超越主要基线，整体得分分别提升 3.2 与 3.3 分，视觉文档检索提升最高，分别为 6.1 与 6.4 分。实验表明，关系监督的价值在于塑造训练期间的推理探索，而非仅作为事后奖励。
点评