大型语言模型辅助的元进化方法，用于自动化约束优化进化算法的设计

大语言模型辅助的元优化器自动生成约束优化进化算法更新规则，通过MetaBBO框架迭代学习多类约束优化问题知识并采用RTO2H提示工程框架。实验表明其计算效率与求解精度优于传统人工设计方法。

　　

Xu Yang | Rui Wang | Kaiwen Li | Wenhua Li | Weixiong Huang | Wei Liu

国防科技大学系统工程学院，中国湖南省长沙市德雅路109号，410073

摘要

通过使用大型语言模型（LLMs），元黑盒优化（MetaBBO）取得了显著进展，同时在复杂的约束优化进化算法（COEAs）方面也有所突破。然而，由于LLM的幻觉效应和token限制，通过LLMs生成完全正确且有效的算法代码仍然具有挑战性。为了解决这个问题，我们研究了COEA的更新规则。我们提出了一种基于LLM辅助的元进化算法COEA，称为LMCOEA，它利用LLM作为元优化器的进化策略来生成COEA的更新规则，无需人工干预。这种自动化设计是通过基于进化学习的MetaBBO实现的。元优化器通过学习多种约束优化问题来提高泛化能力。RTO²H框架也被引入用于提示工程。实验结果表明，与人工设计的规则相比，LMCOEA在计算效率和解决方案准确性方面都能设计出更具竞争力的更新规则。这项工作为自动化算法生成提供了一种可扩展且数据驱动的方法，同时也指出了未来的研究方向和局限性。

引言

传统的约束优化问题（COPs）的算法设计通常依赖于手工设计的进化操作符（Ozkaya, Kahraman, Duman, Guvenc, 2023; Qiao, Liang, Yu, Wang, Qu, Yue, Guo, 2023; Runarsson, Yao, 2000; Zuo, Gong, Wang, Ye, Zeng, Meng, 2023）和约束处理技术（Peng, Xu, Qian, Dong, Li, Wu, 2023; Rahimi, Gandomi, Chen, Mezura-Montes, 2023; Wang, Liu, Qiu, Zhang, 2024a）。这种方法通常依赖于专家知识、试错和大量的人力，导致算法设计的成本高且适应性低。因此，大型语言模型（LLMs）辅助的算法设计受到了广泛关注（Lange, Tian, Tang, 2024; Liu, Yao, Guo, Yang, Zhao, Lin, Tong, Yuan, Lu, Wang, et al., 2024c; Liu, Chen, Qu, Tang, Ong, 2024c; Romera-Paredes, Barekatain, Novikov, Balog, Kumar, Dupont, Ruiz, Ellenberg, Wang, Fawzi, et al., 2024）。Eureka（Ma et al., 2023）和Auto mc-reward（Li et al., 2024a）利用LLMs为强化学习（RL）设计奖励函数。GeminiDE（Zhong, Zhang, Yu, & Munetomo, 2024b）和EvoPrompting（Chen, Dohan, & So, 2023）在超参数优化方面进行了尝试。EoH（Liu et al., 2024a）、LLMOA（Zhong, Hussien, Yu, & Munetomo, 2025）、LLLaMEA（van Stein & B?ck, 2024）、ReEvo（Ye et al., 2024）等也早期尝试利用LLMs进行启发式和元启发式算法设计。

尽管LLMs在超启发式优化方面展示了出色的能力，但它们在约束优化进化算法（COEAs）的自动化设计中的应用仍然处于初级阶段（Wang, Liu, Chen, & Tan, 2024b）。此外，由于LLM的幻觉效应和token限制，生成完全正确且有效的算法代码仍然具有挑战性。

为了解决这些问题，我们提出了LMCOEA，它利用LLM在元进化中自动设计COEA的组件，而基础进化用于评估生成的组件。具体来说，LMCOEA在Meta黑盒优化（MetaBBO）框架内通过多个基准COPs自我学习知识。这项研究有三个主要贡献：（1）利用LLM作为元级别的进化策略来生成基础级别的COEA更新规则，无需人工干预；（2）展示了自动发现新颖且有效算法组件的潜力；（3）实证验证表明其性能优于现有的手工设计方法。表1展示了两种经典的LLM辅助算法设计方法（EoH Liu et al., 2024a和FunSearch Romera-Paredes et al., 2024）与提出的LMCOEA之间的核心差异。

本文的其余部分安排如下：第2节讨论相关工作，第3节详细介绍所提出的框架，第4节展示实验结果，第5节总结更广泛的意义和未来方向。

相关工作

约束优化在现实世界应用中起着重要作用。设计智能且有效的COPs方法非常有价值。除了人工设计的COEAs外，最近在LLM辅助算法设计方面的进展在进化算法（EAs）中也得到了验证。本节首先介绍了关于人工设计COEAs的相关工作，然后概述了LLM辅助的EA设计。

方法：LMCOEA

COPs面临的挑战在于有效找到最优可行解，这由于存在各种类型的约束而变得困难，可能导致可行区域不连续或很小。虽然之前的研究提出了各种搜索策略或约束处理技术，但LLMs的出现由于其在推理和预测方面的出色能力提供了新的可能性。本节详细解释了所提出的方法。

实验设置

我们采用了CEC2010约束实参数优化基准测试集（Mallipeddi & Suganthan, 2010）来评估所提出的方法。这个标准化的测试集包含18个具有不同特征的可扩展问题，包括可分离/不可分离的目标、不等式/等式约束以及旋转的约束几何形状。每个问题的表述如下：

$\text{最小化}f\left(x\right)，x\in S?R^D受以下约束：$

其中