摘要
目标：概念瓶颈模型通过可解释的中间变量进行预测，其有效性通常通过这些变量的预测精度来判断。我们质疑这种判断是否足够，使用左心室体积作为估计超声心动图视频中射血分数的概念。
方法：训练了一个视频变换器编码器，使用一个公开的超声心动图数据集。最终收缩和舒张体积形成了一个概念层，从中通过解析计算射血分数，且输出没有残余路径。我们比较了仅在射血分数目标下训练与在毫升体积的额外监督下训练的效果，并在1276个保留研究中进行了评估。
结果：相对于直接回归，概念瓶颈并没有增加射血分数的误差，分别为6.89与7.13的平均绝对误差。然而，缺乏体积监督时，预测体积的分散度下降至0.1毫升，而参考分散度为35.7和45.7毫升，尽管相关性部分保留。我们表明，这源于目标的不变性属性：射血分数是一个比率，在两个体积都被重新缩放时不变，因此损失仅在尺度上决定了概念层。绝对单位的监督将体积误差从89.8减少至25.8毫升，代价是射血分数误差增加0.4。
结论：仅凭概念精度可能掩盖携带无物理尺度的概念层。
重要性：临床模型中的可解释中间变量应根据训练目标的不变性结构进行验证，而不仅仅是预测精度。
博主点评： 本文探讨了概念瓶颈模型在超声心动图应用中的有效性，通过引入体积监督，显著改善了模型的准确性。这一研究强调了损失函数的不变性对模型输出的影响，提供了新的视角来评估临床模型的可解释性与可靠性。