通过结合长短期记忆网络（Long Short-Term Memory, LSTM）和基于物理信息的径向基函数神经网络（physics-informed radial basis function neural network），加速双相达西流动（two-phase Darcy flow）的模拟过程

《Computers & Fluids》：Accelerating two-phase Darcy flow simulation by combining Long Short-Term Memory network and physics-informed radial basis function neural network

　　吕学军|邢燕|查文旭|李道伦
安庆师范学院数学与统计学院，中国安庆246133

**摘要**
随着物理信息神经网络（PINNs）的迅速发展，它们已被广泛应用于流体力学领域。然而，PINNs本身也存在一些挑战，如优化难度大和训练成本高。此外，在模拟达西流时，它们往往忽略了流体的时间依赖性行为。本文基于达西流的时间依赖性，将长短期记忆（LSTM）网络与物理信息径向基函数神经网络（PIRBFNN）相结合，形成LSTM-PIRBFNN，以加速两相达西流的模拟。对于每个时间步的 pressure 解，利用离散油相和水相的耦合方程构建物理信息损失函数，然后通过PIRBFNN求解该损失函数。在获得一定数量时间步的 pressure 后，将这些 pressure 值输入 LSTM 并得到预测值，作为 PIRBFNN 解决下一个时间步的初始值。随后，采用滑动窗口方法为每个后续时间步提供 PIRBFNN 的初始值。在求解每个时间步对应的饱和度时，过程类似于求解 pressure，不同之处在于饱和度的物理信息损失函数只需要离散的水相方程。此外，通过“硬约束”施加边界条件以降低优化难度。实验结果表明，与不使用 LSTM 的 PIRBFNN 相比，所提出的方法建模效率提高了近两倍。

**引言**
随着深度学习应用的不断扩展，它不仅在我们熟悉的领域（如计算机视觉 [1]、自然语言处理 [3]、信号处理 [5] 等）得到广泛应用，近年来还在医疗保健 [7]、隐私保护 [8] 和各种工程领域 [9] [10] [11] 中得到应用。在科学计算领域，主流的深度学习方法大致可以分为两类：数据驱动的深度学习和物理驱动的深度学习。

数据驱动的深度学习方法通常依赖于大量标记数据。吴等人 [12] 提出了一种通过残差网络数值逼近演化算子来近似未知时间依赖型偏微分方程（PDE）的方法。尹等人 [13] 提出了一种结合机器学习与深度学习模型的方法，通过分析三维微震数据来预测矿井水淹没情况。朱等人 [14] 介绍了一种基于贝叶斯卷积神经网络的不确定性量化和传播方法，利用变分梯度下降算法进行近似贝叶斯推理。莫等人 [15] 提出了一种深度卷积编码器-解码器神经网络，用于地下水流系统的动态多相流替代建模。闫等人 [16] 提出了一种基于深度神经网络（DNNs）的自适应多保真度替代建模框架，以高效解决贝叶斯逆问题。唐等人 [17] 提出了一种基于深度学习的替代模型，使用残差 U-Net 和卷积 LSTM 网络来预测沟槽化地质模型中的动态地下水流。Tripathy 等人 [18] 展示了如何使用 DNNs 构建复杂物理系统的不确定性量化替代模型。钟等人 [19] 介绍了一种基于深度学习的代理建模方法，利用耦合生成对抗网络（Co-GAN）高效预测水库压力和水体饱和度。然而，标记数据的质量显著影响这些方法的性能，并且在过程中常常忽略某些基本物理定律。因此，许多研究者提出了物理驱动的深度学习方法。

将物理定律与深度学习结合以求解 PDE 的最具影响力的方法之一是由 Raissi 等人 [20] 流行的 PINNs 方法。随后，许多学者提出了各种类似 PINNs 的方法。王等人 [21] 提出了 NAS-PINN，该方法利用神经架构搜索自动优化神经网络结构以求解 PDE。苗等人 [22] 提出了变系数物理信息神经网络（VCPINN），这是一种旨在解决变系数 PDE 正向和逆问题的深度学习方法。侯等人 [23] 提出了一种无需离散化的方法，利用 PINNs 解决非线性对流-扩散-反应（CDR）系统的正向和逆问题。Taassob 等人 [24] 提出了一种结合 PINNs 和深度算子网络（DeepONet）的新框架，利用多标量和速度测量值以及无条件均值估计来提取湍流燃烧闭合特性，并成功应用于悉尼火焰的速度和标量场预测。Ghnatios 等人 [25] 提出了一种结合 PINNs 与模型降阶（MOR）技术（特别是适当广义分解（PGD）的方法，用于高效求解参数化偏微分方程（pPDEs）。郭等人 [26] 提出了 HT-PINN 方法，该方法结合水力层析成像与 PINNs 高效反演大规模空间分布的渗透率场。孟等人 [27] 提出了 PINN-FORM 方法，将 PINNs 与一阶可靠性方法（FORM）相结合，高效处理由隐式 PDE 表示的复杂极限状态函数。陈等人 [28] 提出了一种高级时间推进 PINN（AT-PINN）方法，提高长时模拟中结构振动分析的准确性和效率，解决了 PINN 的性能退化问题。

此外，物理驱动的深度学习方法也被用于模拟多孔介质中的流体流动 [29] [30]。张等人提出了物理信息卷积神经网络（PICNN）分别用于单相和两相流动的建模 [31] [32]。邢燕等人 [33] 提出了增强型 PINN（E-PINN），用于模拟异质性和裂隙多孔介质中的两相流动。王等人提出了理论指导的卷积神经网络（TgCNN），即使在数据量少或没有标记数据的情况下也能模拟达西流动 [34] [35]。李等人 [36] 基于残差网络解决了离散渗流方程，并通过校正迭代方法进一步提高了解的准确性。之后，吕等人 [37] 提出了物理信息残差网络（PIResNet），用于高效求解单相渗流方程。沈等人 [38] 提出了一种近似-校正模型，用于在没有标记数据的情况下通过深度学习求解具有汇流的脉动不可压渗流方程。

目前，还有一些基于 LSTM 的方法用于预测流体流动。例如，一些学者证明 LSTM 网络可以有效预测渠道流中的湍流剪应力，在与直接数值模拟（DNS）数据对比验证时优于传统的雷诺平均纳维-斯托克斯（RANS）κ-? 模型 [39]。此外，还提出了一种具有新颖门设计的参数化 LSTM（pLSTM）模型，能够稳健预测设计参数范围内的流体流动动态，表现出准确的长期预测能力和对振荡系统和非稳态流动的噪声鲁棒性 [40]。张等人 [41] 比较了 POD-LSTM 和 POD-GRU 模型在流场预测中的表现，发现 LSTM 在速度场方面表现优异，而门循环单元（GRU）在压力场方面表现更好，训练速度更快，揭示了不同proper正交分解（POD）模式下的差异。随后，提出了一种混合 LSTM+CNN 模型，用于预测圆柱涡脱落等非稳态流动。该模型在计算流体动力学（CFD）数据上训练，LSTM 预测升力系数，而 CNN 预测速度/压力场，计算成本远低于传统 CFD [42]。然而，这些方法仍然需要真实的标记数据。

上述方法要么忽略了流体的时间依赖性行为，要么在融入时间信息时需要真实的标记数据，因此在建模效率和标记数据方面需要改进。本研究将长短期记忆（LSTM）网络与物理信息径向基函数神经网络（PIRBFNN）相结合，形成 LSTM-PIRBFNN，以无需标记数据即可加速两相达西流的建模。LSTM 利用流体的时间依赖性行为为 PIRBFNN 提供初始值。此外，还使用了硬约束和迁移学习来加速训练过程。实验结果也证实了 LSTM-PIRBFNN 的建模效率。以下是本研究的主要亮点：
- LSTM-PIRBFNN 用于加速两相达西流的模拟。
- 使用硬约束和迁移学习来加速训练过程。
- 与不使用 LSTM 的 PIRBFNN 相比，LSTM-PIRBFNN 的训练时间减少了近一半。

**本文结构**
第 2 节推导了两相流动的控制方程。第 3 节阐述了物理信息损失函数以及 LSTM-PIRBFNN 的结构和训练流程。第 4 节比较了 LSTM-PIRBFNN 的预测结果与真实结果，包括井底压力、压力分布和水饱和度分布，在恒定和变流量条件下进行了对比，并比较了 LSTM-PIRBFNN 与不使用 LSTM 的 PIRBFNN 的训练时间。第 5 节总结了本研究。

**部分内容**
- 本研究主要探讨了储层中油水两相的微可压缩流动，包括井筒表皮的影响。
- 从达西定律导出的经验方程可以表示为 ul=?krlKμl?pl，其中 l=0 表示油相，l=w 表示水相，krl 和 K 分别表示相对渗透率和绝对渗透率，ul、μl 和 pl 分别表示达西速度、粘度和压力。

**方法论**
本节阐述了物理信息损失函数以及 LSTM-PIRBFNN 的结构和训练流程。

**数值实验**
为了评估 LSTM-PIRBFNN 的性能，本节在不同情景下对两相达西流进行了模拟，包括单井恒定流量、单井变流量、多井恒定流量和多井变流量情况。真实值来自作者开发的模拟器，在先前的研究 [45] [46] [47] [48] [49] 中已验证其准确性。该模拟器利用了……

**结论**
由于两相达西流中的压力和水饱和度随时间逐渐变化并表现出特定模式，本研究使用 LSTM 来预测初始值，以便使用 PIRBFNN 进行两相达西流的模拟，从而加快整体模拟过程。所提出的方法称为 LSTM-PIRBFNN。具体来说，对于每个时间步的 pressure，利用离散油相和水相的耦合方程构建物理信息损失函数，然后通过 PIRBFNN 求解该损失函数。

**作者贡献声明**
吕学军：撰写 – 审稿与编辑、撰写 – 原始草稿、可视化、验证、研究、形式分析。
邢燕：撰写 – 审稿与编辑、验证、方法论、形式分析。
查文旭：监督、软件、资源、项目管理、资金获取、数据管理。
李道伦：监督、项目管理、方法论、资金获取、概念化。

**利益冲突声明**
作者声明他们没有已知的竞争财务利益或个人关系可能影响本文所述的工作。

**致谢**
本研究得到了国家自然科学基金（项目编号 12372244 和 12172115）的支持。