摘要
物理信息神经网络(PINNs)对架构、激活函数、损失加权、协同位置、优化和约束执行等交互选择异常敏感。大型语言模型(LLMs)能够提出这些选择,但独立推荐无法积累先前训练的PINNs经验。我们提出了一种闭环进化算法,指导LLM生成完整且可执行的PINN配置,利用测量的训练结果决定后续搜索决策。
该算法维护一个经过评估的人口和谱系,应用父代条件的变异和交叉,保留精英和多样化解,拒绝无效重复,并将父代相对的成功与失败转化为供LLM使用的下一代上下文。每个提议的配置都在确切的优化器步骤预算下直接执行。
在一维多尺度波动方程上,进行了两次独立的十代训练,共训练60个PINNs,优化器步骤达600,000。在两次运行中,最佳配置出现在最后一代,最佳均方误差分别降低了2.97%和95.38%相对于初始种群。更强的运行验证了残差连接并在不同分支上增加了深度,随后在后代中将它们结合,并进一步优化宽度和协同位置密度。结果还揭示,低解错误可以与高PDE残差共存。这些结果展示了进化算法引导的LLMs在受控PDE上进行PINN设计的可行性,同时激励了更广泛的物理意识评估。
博主点评: 该研究展示了进化算法与大型语言模型的结合在物理信息神经网络设计中的潜力,尤其是在优化复杂系统时的创新思路。通过自适应演化,模型能够不断改进设计参数,提供更高效的解决方案,值得在其他领域进行类似探索。