VenusGenome 是一种基因粒度的掩码自编码模型,结合了仅可见编码和基因组感知注意力。模型在编码时会显式考虑 contig 边界、相对链向以及基因在基因组中的相对位置,从而避免把拼接的 contig 当作真实相邻基因。\n\n预训练使用了超过 170 万条来自分离株和宏基因组的微生物基因组,输入为冻结的蛋白质嵌入,每个基因对应一个向量。通过高比例掩码(如 70%)迫使模型从稀疏的基因组上下文中恢复被遮挡的基因嵌入。\n\n实验在基因组水平的表型预测和基因层面的功能任务上进行,冻结的表示在 11 项主要指标中有 9 项取得最高平均得分。进一步的基因输入扰动分析显示,表示的敏感性与实验测得的适应性缺陷高度相关。消融实验表明,基因组感知注意力显著提升性能,掩码自编码优于 BERT‑style 掩码建模,且更高的掩码比例带来额外收益。\n\n点评:该工作展示了将基因组结构信息显式编码进自监督学习框架的有效性,为微生物功能预测提供了更具生物学意义的特征。