Kolmogorov‑Arnold 网络(KAN)用可学习的一元函数取代传统网络的标量权重。现有实现固定了函数的基底,如 B‑样条、Chebyshev 多项式、小波或 Jacobi 多项式,仅学习基底上的线性组合系数。RecKAN 通过二阶多项式递推
$$ R_{n+1}(x) = (a x^2 + b x + c) Rn(x) + (d x + e) R{n-1}(x) $$
直接让基底可学习,递推系数 $a,b,c,d,e$ 与网络参数一起优化。该递推在特定系数取值时会退化为常见多项式族:第一类和第二类 Chebyshev、多项式、Fibonacci、Pell、Jacobsthal 等。我们证明在包含所有这些族的子族中,$R_n$ 的次数随 $n$ 线性增长,说明学习到的基底能够超越任何固定的经典选择。
在图像、文本、生物医学时间序列分类以及时间序列预测等多项基准上,RecKAN 相比参数等价的 Chebyshev、Jacobi、样条 KAN 在所有分类任务上均取得更高准确率,并在 ETTh1 预测基准上实现最低 MSE。将 RecKAN 作为卷积主干的分类头时,Fashion MNIST、CIFAR‑10、SVHN 的准确率均高于标准 MLP 头。合成函数拟合实验表明,RecKAN 能捕捉到高频振荡目标,而等参数的 MLP 出现欠拟合。
进一步分析学习到的递推系数发现,在需要强局部结构的任务上,训练会将基底推离线性次数增长的子族,这与我们理论上对结构转变的分析相吻合,说明系数的变化能够显式调节基底的表达能力。
点评