高斯过程是概率机器学习的核心工具,但在大规模数据上往往需要在计算效率和模型保真度之间做出妥协。本文提出一种自适应多分辨率高斯过程框架,既保持精确推断,又具备可扩展性。核心创新在于构造一种天然稀疏的协方差矩阵,使用自适应多分辨率基函数,这些基函数直接锚定在样本点上,无需额外的辅助点。通过收缩基函数的支撑域,使得矩阵块的大小受到限制,从而保证稀疏性。稀疏协方差矩阵的逆通过稀疏 Cholesky 逆算法能够精确且高效地计算。为提升预测不确定性,还构造了增强基函数。理论分析表明,训练复杂度为 $O(n \log^2 n)$,预测复杂度为 $O(\log^d n)$,数值实验验证了模型在保持高保真度的同时实现了快速推断。
点评