《npj Digital Medicine》：A suite of large language models for public health infoveillance
编辑推荐：
为解决公共卫生信息监控（infoveillance）滞后、响应迟缓的问题，研究人员开展了一项关于开发专用大语言模型（LLMs）的研究。他们成功研发了PH-LLM模型套件，在包含19项英文和20项多语言任务的标准基准测试中，PH-LLM-14B和PH-LLM-32B模型的零样本（zero-shot）性能超越了多个规模更大或相当的基线模型，在公共卫生信息监控方面实现了先进的多语言能力与高性价比的解决方案。
在数字时代，社交媒体已成为公众表达对健康议题关切、获取信息甚至传播情绪的关键场域。从疫苗接种的讨论到对新兴流行病的担忧，海量的、多语言的网络文本数据蕴含着反映公众健康认知与情绪的宝贵信息。若能实时捕捉并理解这些信息，将有助于公共卫生部门更敏捷地感知社会心态、评估干预措施效果并预警潜在风险。然而，传统的监测手段在面对社交媒体上瞬息万变、结构松散且语言多样的信息洪流时，常常显得力不从心。这导致公共卫生信息监控（infoveillance）存在显著的“时间差”，可能引发应对延迟与决策调整滞后，从而错失干预的最佳时机。为了弥合这一关键缺口，一项聚焦于开发先进人工智能工具的前沿研究应运而生，其成果最终发表在《npj Digital Medicine》期刊上。
为了应对这一挑战，研究团队开展了一项旨在开发专用人工智能模型的研究。他们认识到，通用的大型语言模型（LLMs）虽然在多种任务上表现出色，但未必针对公共卫生领域文本的独特语境和需求进行过优化。因此，团队的核心目标是打造一个专门为公共卫生信息监控设计的LLM套件。他们系统地收集并构建了一个多语言训练语料库，为模型的“学习”提供了丰富的素材。在模型训练环节，研究人员采用了高效的参数高效微调技术，包括QLoRA和LoRA plus，并以Qwen 2.5模型为基础进行开发，旨在以相对较低的计算成本实现高性能。为了科学、严谨地评估所开发模型的性能，他们构建了一个包含19项英语任务和20项多语言任务的保留测试基准，并在此基准上对模型进行零样本性能评估。
本研究通过构建和评估PH-LLM模型套件，得出了一系列关键结论。研究结果显示，PH-LLM模型在各项测试中展现出了卓越的性能。具体而言，在模型性能比较中，PH-LLM模型的表现显著超越了基线模型。无论是PH-LLM-14B还是PH-LLM-32B，在英语任务和多语言任务上的零样本性能均超越了规模更大的Qwen2.5-72B-Instruct、Llama-3.1-70B-Instruct、Mistral-Large-Instruct-2407以及GPT-4o等模型。在英语任务上，PH-LLM取得了不低于56.0%的成绩，而基线模型均不高于52.3%；在多语言任务上，PH-LLM取得了不低于59.6%的成绩，同样优于基线模型不高于59.1%的表现。这一结果表明，针对特定领域（公共卫生）进行专门化设计和训练，能够使模型在该领域任务上获得比通用大模型更优的效果，即使后者的参数量更大。此外，在成本效益方面，通过采用QLoRA等参数高效微调技术，研究实现了在控制计算资源消耗的同时，获得高性能的专用模型，为实际应用提供了可行的技术路径。
研究的结论与讨论部分强调了PH-LLM模型套件在公共卫生信息监控领域的突破性意义。首先，PH-LLM代表了该领域在实时监控能力上的一次重要进展。它通过先进的多语言理解能力，能够处理来自不同语言社群的社交媒体文本，极大地扩展了监测的覆盖范围。其次，这项工作提供了一套具备先进性能且成本效益显著的解决方案，使得资源有限的公共卫生机构也有机会部署强大的AI监测工具，用于跟踪公众对健康议题的情绪与态度。这有助于实现从被动响应到主动感知的范式转变。最终，PH-LLM的开发成功，不仅为公共卫生实践者提供了一个强大的新型工具，也为如何针对特定垂直领域开发高效、专精的大型语言模型提供了宝贵的技术范式和启示，推动了人工智能在改善公共健康治理方面的实际应用。
