《Neurocomputing》：Fourier neural operators as data-driven surrogates for two- and three-dimensional Rayleigh–bénard convection
编辑推荐：
本文提出基于Fourier Neural Operator（FNO）的模型，用于近似二维和三维Rayleigh-Bénard对流系统的离散时间流图。实验表明FNO在预测准确性和稳定性上优于LRAN，并与U-Net表现相当，同时具备零样本超分辨率能力，物理预测结果更接近真实数据。
Thorben Markmann | Michiel Straat | Sebastian Peitz | Barbara Hammer
CITEC - 认知交互技术中心，Inspiration 1，比勒费尔德，33615，北莱茵-威斯特法伦州，德国
摘要
数据驱动的替代模型能够快速且完全可微地近似复杂动态系统。在这项工作中，我们为瑞利-贝纳德对流（RBC）开发了这样的替代模型，该模型用于描述自然和工业环境中的热驱动流动。具体来说，所提出的模型近似了RBC系统的离散时间流图，通过固定的时间步长推进整个系统状态。我们训练基于傅里叶神经算子（FNO）的模型来学习二维和三维RBC的动态，并将其与卷积U-Net基线和基于Koopman的线性循环自动编码器网络（LRAN）进行比较。二维系统作为更具挑战性的三维情况的基准，后者表现出更高的空间复杂性和湍流动力学。在所有设置中，基于FNO的模型始终优于LRAN，在某些情况下其性能可与U-Net相媲美。通过FNO结合时空输入可以提高长期预测的准确性，尤其是对于湍流。预测的物理真实性通过对流热通量统计、剖面和波动进行评估，结果显示FNO最接近真实流动统计。此外，我们还证明了FNO能够在未见过的空间离散化情况下实现零样本超分辨率，这是卷积基线所不具备的能力。这些结果突显了基于神经算子的模型作为精确、物理一致且与分辨率无关的替代模型的潜力，适用于流动控制等下游任务。
引言
瑞利-贝纳德对流描述了由温度（从而密度）差异引起的流体和气体的浮力驱动流动[1]。这些对流现象存在于地球地幔、大气（例如云的形成）以及核聚变反应堆或空调设备等工业应用中。根据参数的不同，系统会表现出各种有趣的现象，如混沌动力学和湍流，使其成为研究非线性动力学的理想系统，也是数据驱动方法测试动力系统的良好平台。
随着计算能力和传感器技术的迅速发展，人们对数据驱动方法（如用于动态系统近似的替代建模）的兴趣激增[2]。替代模型基于系统测量数据（来自实验或计算机模拟）进行训练，能够快速预测系统状态，同时通常具有完全的可微性[3]。
近年来，神经算子模型已成为替代建模的流行方法，它在两个函数空间之间学习非线性映射[4]，[5]。例如，在这项工作中，我们使用神经算子模型从数据中学习动态系统的离散时间流图（或时间推进算子）。一个特别吸引人的特点是神经算子可以在任意分辨率的数据上进行训练并泛化[5]，[6]等。模型还具备零样本超分辨率的能力，这意味着可以在分辨率较低的数据上训练神经算子模型，并用它来预测更高分辨率的数据，而无需微调。
傅里叶神经算子（FNO）在[5]中被提出作为一种高效的神经算子替代模型，它利用离散傅里叶变换并通过与傅里叶空间中的滤波器系数相乘来计算全局卷积。卷积滤波器通过反向传播梯度直接在傅里叶空间中学习得到。
本工作的目标和主要贡献如下：
•尽管神经算子架构已在许多应用中成功使用，但它们在学习混沌对流动力学方面的性能，尤其是在三维领域，仍需进一步探索。据我们所知，我们的工作是首次系统地研究傅里叶神经算子在三维瑞利-贝纳德对流中的性能。
•为了提高对神经算子学习物理一致解能力的理解，我们使用统计和物理指标来评估解的物理真实性。
•我们进行超参数调整和消融研究，以探索模型参数数量和训练数据量的作用。
部分工作已作为我们对ESANN 2025的贡献发表[6]，在其中我们研究了FNO作为二维矩形域中瑞利-贝纳德对流的替代模型，这取决于系统动力学的复杂性（由瑞利数确定湍流程度）。除了主要的扩展——三维瑞利-贝纳德对流外，我们还包括了对二维瑞利-贝纳德对流的实验扩展。特别是，我们在更长的时间范围内和更高的湍流程度上评估了模型。
小节片段
替代模型：背景和应用
控制系统动力学的运动方程往往只是部分已知，或者系统只能在少数位置进行测量。在这种情况下，可以使用数据驱动模型根据这些测量数据来近似系统的动态。即使在控制方程已知的情况下（对于以偏微分方程（PDE）形式存在的分布式系统），学习替代模型仍然有益，因为可以显著加速预测过程
方法论
在本节中，我们描述了控制瑞利-贝纳德对流的PDE并讨论了其主要参数。我们还详细介绍了我们的数值模拟，并详细阐述了神经算子框架。最后，我们讨论了线性循环自动编码器网络（LRAN）[36]和U-Net [37]，我们将它们作为与傅里叶神经算子进行比较的基准。
实验和结果
我们进行了一系列实验来评估FNO在瑞利-贝纳德对流上的预测性能。第4.1节描述了实验设置和数据生成。第4.2节首先回顾了二维瑞利-贝纳德系统，遵循我们之前工作[6]中介绍的设置和分析。这些结果为第4.3节中对三维系统的扩展评估奠定了基础。第4.4节通过分析统计数据和
结论
在这项工作中，我们研究了二维和三维瑞利-贝纳德对流的数据驱动替代模型，比较了傅里叶神经算子（FNO）、卷积U-Net基线和基于Koopman的线性循环自动编码器网络（LRAN）。在两个系统中，基于FNO的模型在预测准确性和稳定性方面始终优于LRAN。比较FNO和U-Net，我们发现它们在多个方面表现出相似的性能，特别是在高湍流情况下
CRediT作者贡献声明
Thorben Markmann：写作——审稿与编辑，撰写初稿，可视化，软件，方法论，数据管理，概念化。Michiel Straat：写作——审稿与编辑，撰写初稿，软件，方法论，概念化。Sebastian Peitz：写作——审稿与编辑，监督，资金获取。Barbara Hammer：写作——审稿与编辑，监督，资金获取。
利益冲突声明
作者声明他们没有已知的可能会影响本文所述工作的竞争性财务利益或个人关系。
致谢
作者感谢“SAIL: 智能社会技术系统的可持续生命周期”项目（项目编号NW21-059A）的财务支持，该项目由北莱茵-威斯特法伦州文化和科学部“Netzwerke 2021”计划资助。SP还获得了欧盟ERC启动基金“KoOpeRaDE”（项目编号101161457）的支持。
写作过程中使用生成式AI和AI辅助技术的声明
在准备这项工作时，作者使用了Grammarly和ChatGPT来提高文本的可读性
Thorben Markmann获得了智能系统硕士学位，专攻机器人技术和机器学习。他目前是比勒费尔德大学的博士生，致力于物理系统的建模和控制的数据驱动方法研究。他的研究兴趣包括替代建模、流体动力学和基于模型的强化学习。
