本研究对Kolmogorov-Arnold网络(KANs)与多层感知器(MLPs)在结构化表格分类任务中的性能进行了实证基准比较。随着对KANs作为替代函数近似架构兴趣的增加,我们评估了其在十二个公开数据集上的即用性能,这些数据集涵盖了二分类、多分类、多标签和序数问题。两种模型在标准化预处理、架构和固定超参数设置下进行训练,性能通过测试准确率和F1分数、配对假设检验及效应规模分析进行评估。
结果表明,KANs在二分类和多分类领域中统计上优于MLPs,并在所有数据集上获得显著的整体优势。然而,观察到的中等效应大小(d = -0.46)提出了一个重要的成本效益考虑:尽管KANs通过自适应样条映射提供了更好的泛化能力,但这一优势伴随着相对于MLP基线显著更高的参数和计算复杂度。这些发现表明,KANs是高精度应用的优选,而MLPs在资源受限的环境中仍然是一个稳健且高效的选择。未来的工作应将这一分析扩展到其他数据模态,以进一步细化这些架构选择标准。
博主点评: KANs展现出在复杂任务中的潜力,但其高昂的计算代价可能限制了其实际应用。对于资源受限的环境,MLPs依然是一个值得信赖的选择。此研究为架构选择提供了重要的实证依据,值得关注其未来的扩展与应用。