基于物理知识的时间积分DeepONet：用于高精度推理的时空切空间算子学习

《COMPUTER METHODS IN APPLIED MECHANICS AND ENGINEERING》：Physics-informed time-integrated DeepONet: Temporal tangent space operator learning for high-accuracy inference

物理信息神经网络通过学习时间导数算子提升长期预测能力，在热方程、Burgers方程等案例中较传统方法误差减少42%-98%，并采用残差监测机制实现可靠推断。

　　

Luis Mandl|Dibyajyoti Nayak|Tim Ricken|Somdatta Goswami

斯图加特大学航空航天工程与大地测量学院结构力学与动力学研究所，德国斯图加特

摘要

在较长的时间范围内准确建模和求解时变偏微分方程（PDEs）仍然是科学机器学习中的核心挑战。传统的全展开（FR）方法通过一次预测整个轨迹，往往无法捕捉动态系统固有的因果依赖性，并且在训练时间范围之外泛化能力较差。相比之下，自回归（AR）方法逐步演化系统，但由于每个时间步的预测依赖于可能有误的先前输出，因此容易积累误差。这些缺点限制了两种策略的长期准确性和可靠性。为了解决这些问题，我们提出了基于物理信息的时间积分深度算子网络（PITI-DeepONet），这是一种专为稳定和准确的长期时间演化设计的算子学习框架，其应用范围远超训练时间范围。PITI-DeepONet采用双输出DeepONet架构，通过完全基于物理信息或混合物理信息和数据驱动的目标进行训练。训练过程确保了学习到的时间导数与其通过自动微分得到的对应导数之间的一致性。网络不是直接预测未来状态，而是从当前状态学习时间导数算子，然后使用经典的时间步进方案（如显式Euler、四阶Runge-Kutta、二阶Adams-Bashforth-Moulton或隐式Euler）逐步推进解。此外，该框架在推理过程中支持残差监控，以估计预测质量，并在 learned 时间切线变得不可靠时（例如在训练域之外）发出警报。应用于基准问题时，与传统方法相比，PITI-DeepONet在较长的推理时间范围内显示出更高的准确性和稳定性。对于一维热方程，平均相对误差降低了84%（相对于FR）和79%（相对于AR）；对于一维Burgers方程，降低了87%（相对于FR）和98%（相对于AR）；对于二维Allen-Cahn方程，降低了42%（相对于FR）和89%（相对于AR）；对于一维Kuramoto-Sivashinsky方程，降低了58%（相对于FR）和61%（相对于AR）。通过超越传统的FR和AR方案，PITI-DeepONet为复杂时变PDEs的更可靠、长期积分铺平了道路。

引言

近年来，神经算子（NOs）作为强大的替代模型出现，在正向和逆向问题中取得了显著成功[1]、[2]、[3]、[4]。这些应用包括增材制造[5]、[6]、核能系统[7]和生物医学领域[8]等。基于物理信息的方法[9]、[10]、[11]也日益受到重视，使得训练过程可以完全或部分不需要标记的数据对，而是依赖于物理定律和残差最小化，类似于求解经典的偏微分方程（PDEs）的初边值问题。然而，算子学习的使用方式与传统求解微分方程的数值方法有根本不同。常见的方法包括全展开（FR）模型，它们在整个时空域上进行训练，然后在同一域上进行推理[12]、[13]。

虽然FR方法避免了显式处理时间演化，但它经常难以在训练域之外进行外推，并且未能充分利用许多动态系统的马尔可夫性质，即后续状态本质上依赖于之前的状态。另一种方法是离散自回归展开（AR）方法，但它们面临训练域泛化能力和时变系统中误差累积的额外问题[14]。因此，这两种方法都不适合进行类似于经典模拟的可靠长期预测，限制了它们作为替代模型的实用性。

最近的一些努力试图通过在NO中引入架构修改来克服这些限制，以提供长时间预测能力。例如，在[15]中，引入了额外的网络来更好地捕捉时间依赖性，同时通过增强循环架构来改进序列建模[16]。其他方法引入了记忆机制[17]、[18]，以减轻基于展开方法的非马尔可夫行为。尽管如此，这些方法主要采用通用的时间序列解决方案，而没有充分利用时变系统中丰富的动态信息。

引入的时间积分嵌入式算子学习框架[19]通过利用系统的内在动态结构来解决这些限制，实现近乎实时的推理，并将部分计算负载转移到离线阶段。该框架从数据中学习离散切线，并在推理过程中通过数值时间积分器重新使用它。在此基础上，我们提出了一个重要的改进：连续时间切线空间算子，它将学习到的时间演化概念扩展到离散更新之外，将训练过程从纯粹的数据驱动方法转变为物理信息和数据驱动方法的结合。此外，我们结合了基于当前系统状态的残差预测机制，作为有效的误差预测器。这种在线残差跟踪以最小的计算开销评估预测质量，为稳健和高效的算子学习提供了新的机会。

章节片段

时间积分嵌入式深度算子网络

时间积分嵌入式深度算子网络（TI-DeepONet）框架[19]将动态系统中的时间预测任务转化为导数学习问题。模型不是以自回归方式预测未来状态，而是学习系统时间切线空间的离散近似。具体来说，当前系统状态uⁿ通过DeepONet[1]进行处理，输出估计的时间导数