在独立训练的神经网络中,由于缺乏共享的神经元索引参考框架,因此进行比较时必须考虑坐标自由度。神经崩溃现象加剧了这一问题:网络趋向于共享的低维几何形状,提出了在收敛后是否仍能区分轨迹特定功能变异的问题。本研究区分了可检测性、可移植性和因果持久性三项主张,并主要关注可检测性。
通过使用五个独立训练的网络重建神经崩溃现象,研究者们在MNIST数据集上应用了一种经过验证的仿射校正映射,将供体头部对齐到接收者坐标中。经过接收者级别的基线校正后,供体特征指纹仍然可以被区分:所有20对有序的供体-接收者组合均被正确识别,精确的排列p=0.0083,并且在泄漏审计中表现稳健。这些发现确立了在此测试下的可检测性,但并未证明可移植性或因果持久性。
本研究展示了如何将对齐、模糊诊断和泄漏控制结合起来,在受控环境中测试跨网络变异;然而,这种方法是否可以推广到更广泛的场景仍然是一个开放问题。
博主点评: 本文在神经网络的对比研究中提供了一种新颖的审计协议,强调了神经崩溃后供体特征的可检测性。未来的研究可进一步探索其在实际应用中的可移植性与因果关系,推动这一领域的深入发展。