摘要
物理信息神经网络(PINNs)在由偏微分方程(PDE)主导的建模领域中产生了广泛的研究影响。然而,PINNs在处理复杂PDE领域或在未见但相关的PDE领域时,表现不佳,甚至可能收敛到平凡解。以往提出的解决方案主要集中在超参数调节以减少数据驱动损失与物理引导损失之间的失衡、基于课程学习的训练策略或动态重采样困难点等。这些方法面临一些缺陷:超参数调节成本高,设计训练课程在多参数PDE设置中模糊不清,而动态重采样在复杂PDE设置中仍然失败。
与此思路相辅相成,我们认为初始的PINN网络权重在训练期间出现灾难性失败中扮演了关键角色,然而PINN权重初始化的影响却出乎意料地缺乏研究。为此,我们提出了通过门控分层优化的学习初始化框架(LIGO-PINN),以克服PINN的收敛失败。通过在1D和2D PDE领域的严格评估,包括一个具有挑战性的2D流体动力学设置,我们证明了我们的方法优于旨在缓解PINN失败的最先进方法,在六个基线中实现91.5%的平均性能提升,相较于最强基线提升了81%。我们还验证了LIGO-PINN在3D非结构化域中的泛化能力。最后,我们分析了所有三个PDE领域的训练动态,以解释LIGO-PINN的改进以及传统PINNs的收敛失败。
代码
博主点评: LIGO-PINN的提出为PINNs的训练提供了新的思路,尤其是在复杂的物理建模中。通过优化权重初始化,显著提升了收敛性,展示了深度学习与物理建模结合的巨大潜力。这项研究为未来更高效的PINNs应用奠定了基础,值得深入关注与探索。