EEG基础模型常用掩码预测从未标记的记录中学习,但仅优化该目标并不能保证得到可迁移的神经表征。稳定的位置信号和局部相关性使得被掩盖的区域可以在不利用分布式神经上下文的情况下被预测,形成所谓的捷径学习。
为了解除低信息预测路径,我们提出神经状态预测(Neural State Prediction, NSP),它是一种潜在预测框架,同时约束预测目标和可见上下文。NSP 使用通过指数移动平均(EMA)更新的目标编码器生成潜在监督信号。
在目标上进行身份残差化,去除通道身份和相对时间的加性影响;在上下文上采用拓扑分离,将目标的直接空间和时间邻域从可见输入中剔除,从而迫使模型利用更广域的信号结构。
我们在TUEG数据集上预训练了NSP,使用了220万段EEG片段。随后在30个下游任务(包括临床诊断、睡眠分期、情感识别、运动想象、事件相关电位、认知状态解码和语言检索)上进行评估。
在EEG‑FM‑Bench的全参数多任务微调中,NSP 在14个数据集上实现了63.94的宏平衡准确率,比最强基线高出2.35个百分点。通过受控的组件消融实验,我们量化了每个机制的贡献;匹配上下文对照和持出干预进一步揭示了上下文几何、信号内容和位置信息的作用。
结果表明,同时设计潜在目标及其可见上下文是提升EEG基础模型利用分布式信号结构的有效方向。
点评