摘要
小型语言模型(SLMs)在基于SMILES字符串的零-shot分子属性预测中展现出良好前景,但往往因结构盲目性而受限,因为序列表示无法充分指定关键的图拓扑线索。为此,我们提出了一种模块化的上下文增强提示框架,该框架在推理时允许工具的主动使用:经过训练的图神经网络(GNN)专家模型提供具有置信度的预测提示,同时GNN提取特定实例的解释性子图(例如,子图SMILES及其配套的解释段落)。
我们在MUTAG和Tox21数据集上评估了三种常用的SLMs,采用从仅使用SMILES到利用所有可用工具的五种提示配置。通过图形派生的上下文丰富提示,在两个数据集上都取得了显著准确性提升,通常超过25%的相对提升,在Tox21上甚至达到74%。我们进一步通过基于必要性的边缘丢弃干预验证了提取的动机的功能相关性。尽管观察到增益,仍然存在与专用GNN模型之间的差距,这突显了文本条件推理在分子结构中的价值与局限性。
博主点评: 这一研究展示了小型语言模型与图神经网络结合的潜力,尤其在分子属性预测领域。通过上下文增强的提示,显著提高了模型的预测准确性,为未来的分子建模和化学信息学提供了新的思路。