基于梯度优化的自适应配点法PACMANN：提升物理信息神经网络在高维问题中的精度与效率

《Computer Methods in Applied Mechanics and Engineering》：PACMANN: Point adaptive collocation method for artificial neural networks

本文针对物理信息神经网络（PINN）中配点分布对求解精度影响显著但现有自适应方法在高维问题中计算成本高的问题，提出了一种新型点自适应配点方法（PACMANN）。该方法通过利用损失函数梯度动态调整配点位置，使其向残差较大区域移动，从而在保证计算效率的同时显著提升了对高维偏微分方程正反问题的求解精度。研究表明，PACMANN在Burgers方程、Allen-Cahn方程、5维泊松方程和3维Navier-Stokes方程等多个基准问题上均优于现有方法，为复杂物理场建模提供了新思路。

　　

在科学计算和工程仿真领域，求解偏微分方程（PDE）一直是核心挑战。传统数值方法如有限元法在处理复杂几何和高维问题时往往计算成本高昂。近年来，物理信息神经网络（PINN）作为一种新兴的范式，通过将物理定律嵌入神经网络损失函数，展现了解决PDE正反问题的潜力。然而，PINN的性能在很大程度上依赖于训练过程中配点的分布。研究表明，在解函数存在陡梯度或奇异性等特征区域，需要更密集的配点采样才能获得准确解。现有自适应配点方法（如基于残差的自适应优化RAR）在低维问题中表现良好，但在高维空间中因需大量采样点评估残差而导致计算成本急剧上升，限制了其实际应用。

为解决这一瓶颈，来自代尔夫特理工大学航空航天工程学院的研究团队在《Computer Methods in Applied Mechanics and Engineering》上发表了题为"PACMANN: Point Adaptive Collocation Method for Artificial Neural Networks"的研究论文，提出了一种新颖的点自适应配点方法。该方法核心思想是将配点采样转化为残差平方的最大化问题：在训练过程中定期暂停，计算当前配点处残差平方的梯度，并利用梯度上升等优化算法将配点向残差更大的区域移动。这种策略确保配点自动聚集在解变化剧烈的区域，显著提升了采样效率。

研究方法上，作者首先构建了标准PINN框架，其损失函数包含PDE残差、初始条件和边界条件三部分。PACMANN的创新在于引入配点位置的可优化性，具体通过四个超参数控制：重采样周期、优化器、步长和移动步数。团队系统比较了梯度上升、非线性梯度上升、RMSprop、动量法、Adam和黄金分割搜索等多种优化算法在配点移动中的表现。

研究结果显示，在经典的一维Burgers方程和Allen-Cahn方程测试中，PACMANN与Adam优化器组合在大多数情况下实现了最低的L²相对误差（Burgers方程：0.07%；Allen-Cahn方程：0.16%），且计算时间与现有方法相当。特别值得注意的是，在高维问题如五维泊松方程中，PACMANN表现突出，其精度显著优于RAR（残差自适应优化）和RAD（残差自适应分布）等方法。在三维Navier-Stokes方程反问题中，该方法成功识别了λ₁=1和λ₂=0.01的参数真值，误差分别仅为0.03%和0.53%。此外，在带有复角奇异的二维 Laplace 方程案例中，PACMANN能自动将配点聚集在奇点附近，有效捕捉了边界层效应。

关键技术方法包括：1）采用 min-max 优化框架，将配点选择转化为残差最大化问题；2）引入周期性重采样机制，每50次训练迭代后激活配点移动程序；3）使用多种梯度优化算法调整配点位置，其中Adam优化器表现最佳；4）配点越界时采用均匀分布补充新点，保持总点数稳定。

研究结论表明，PACMANN通过动态调整配点分布，有效提升了PINN在高维问题和奇异问题中的求解效率与精度。该方法计算开销低，易于集成到现有PINN流程中，为复杂物理场模拟提供了实用工具。值得注意的是，配点移动的步长对精度影响显著，而移动步数影响相对较小，建议实际应用中固定步数为5以平衡效率与精度。未来工作可探索该方法在边界层问题中的改进策略，以及在不同类型PDE中的普适性。

这项研究为物理信息神经网络的实际应用提供了重要技术支撑，特别是在计算流体力学、材料科学等需要高精度模拟的领域具有广阔应用前景。通过智能配点采样策略，PACMANN有效克服了高维PDE求解中的维度灾难问题，推动了科学机器学习的发展。