一种针对污水处理厂安全领域特定大型语言模型的渐进式微调策略

《Scientific Reports》：A progressive fine-tuning strategy for domain-specific large language models in wastewater treatment plants safety

　　

摘要

污水处理厂（WWTPs）的安全管理面临着诸多根本性挑战，包括领域知识匮乏、安全协议动态变化以及需要高度可靠的决策支持。尽管传统的风险评估方法和专家系统提供了必要的支持，但它们在整合多源异构知识以应对高后果、低频率（HCLF）风险方面存在不足。现有的通用大型语言模型（LLMs）在领域特定知识方面表现不佳，而传统的微调方法在持续学习过程中容易发生灾难性遗忘和知识冲突，因此不适合直接应用于这一领域。为了解决这些问题，本研究提出了一种渐进式微调策略，专门开发适用于污水处理厂安全管理的领域特定LLM。首先，通过专门的数据集工程构建了一个领域特定数据集。随后，该渐进式微调策略将领域知识分为多个阶段，使模型能够在每个阶段逐步学习和巩固核心知识，然后再进入下一个阶段。这种有序的知识积累过程确保了知识的深度整合。该模型采用vLLM和直接偏好优化（DPO）进行部署和持续优化。实验结果表明，渐进式微调策略有效缓解了多任务微调过程中产生的知识冲突。这种方法不仅确保了对安全协议的严格遵守，提高了模型在污水处理厂安全管理方面的领域理解深度，还促进了不同专业任务之间更协调的能力分配和知识整合。通过逐步优化模型，所提出的方法即使在参数规模远大于其他模型的情况下，也能实现更出色的任务特定性能，为解决类似的领域适应挑战提供了有效且可复制的途径。