在最近的 EyeBench 基准测试中，通过眼动预测阅读理解暴露出显著差距：使用预训练语言模型的文本感知模型达到 56–63% 的 AUROC，而仅依赖眼动的模型则表现与随机机会相当。
我们探讨了如何通过轻量级、无语言模型的条件来推动仅依赖眼动的模型的性能。基于 EyeBench 的 AhnCNN 基线 LEXIC-Base，我们提出了两种机制，将三种预计算的词级难度信号注入每次注视的输入中：GPT-2 的惊讶度、词频和词长。
这两种机制分别为直接拼接（LEXIC-Concat）和残差机制（LEXIC-Res），后者通过一个小头预测典型读者的眼动反应，并根据偏差对编码器进行条件化。
在 OneStop 阅读理解任务中，通过 K=5 的种子集成训练，跨越十个折叠，这两种机制在未见文本上均产生了统计学上显著的 AUROC 增益，增加了 1.8 到 2.2 个百分点，Wilcoxon p 值显示结果显著。
博主点评： LEXIC 通过引入词级难度信号，显著提升了眼动模型在阅读理解任务中的表现。这一创新不仅展示了轻量级模型的潜力，也为未来的研究提供了新的思路，尤其是在没有语言模型的情况下如何有效利用眼动数据。其统计显著性结果也表明了该方法的有效性，值得在其他领域进行探索和应用。