病理学是金标准病理诊断的重要组成部分,在确保诊断准确性和可靠性方面发挥着不可替代的作用(Nature Biomedical Engineering, 2017)。苏木精和伊红(H&E)染色在常规临床病理学中广泛用于初步诊断,可以突出显示细胞核和细胞质的形态结构(Fischer等人,2008)。然而,H&E染色无法特异性地捕捉某些细胞外基质成分,如与肿瘤相关的纤维(Chen等人,2019),这些成分在肿瘤进展过程中会发生显著形态变化。这些变化对于鉴别诊断(Ghossein RA,2022)和预后预测(Chen等人,2019;Qiu等人,2022)至关重要。为了清晰地可视化这些特征,病理学家通常需要使用多种专门的纤维染色方法进行综合诊断(de Haan等人,2021;Latonen等人,2024;Lin等人,2022)。由于组织固定和染色方案的要求严格(Levy等人,2021;Zhang等人,2022),专门的染色技术在术中诊断等时间敏感的场景中难以实施。
基于深度学习的虚拟染色(Bai等人,2023)或虚拟图像转换方法最近引起了病理学家的广泛关注,因为它们提供了一种绕过劳动密集且耗时的染色过程的替代方案。这些技术利用强大的深度生成神经网络直接将H&E染色图像转换为相应的特定染色或无标记图像。例如,(Rivenson等人,2019)引入了一种基于GAN的虚拟染色技术PhaseStain,可以将定量相位图像转换为H&E染色、Jones染色和Masson三色染色(MT)。(Keikhosravi等人,2020)提出了一个卷积神经网络(CNN)模型,用于将H&E图像转换为二次谐波生成图像。(de Haan等人,2021)使用条件生成对抗网络(cGAN)将H&E图像转换为特殊染色图像,包括MT、Periodic Acid-Schiff和Jones Sliver染色。同样,(Naglah等人,2022)使用基于cGAN的模型实现了从H&E到MT的精确像素级转换。尽管取得了这些进展,但由于专家注释的缺乏和训练数据的稀缺(McNeil等人,2024;Zhang等人,2020),这些技术在病理学中的广泛应用仍然受到限制,这阻碍了图像转换能力。
因此,基于无监督学习的虚拟染色方法成为研究的一个重要领域,也是本研究的重点。在这方面,(Zhang等人,2022)提出了MVFStain,这是一个创新框架,它利用KL损失和histo损失有效地对齐和分离不同图像域的风格特征空间,从而实现了从H&E染色图像到多重功能染色的转换。(Kang等人,2022)和(Cao等人,2023)开发了基于循环一致性生成对抗网络(CycleGAN)的无监督深度学习方法,将UV-PAM图像转换为类似H&E的伪彩色组织学图像。(Shen等人,2024)实现了一个对比性未注册的补丁级学习转换网络,将刺激拉曼散射和多光子图像转换为H&E对应图像。
尽管具有潜力,无监督虚拟染色面临两个重大挑战。首先,来自不同机构的H&E图像通常表现出多样的风格,这可能导致相同组织特征的表示存在差异。现有的无监督转换方法难以缓解这些风格变化的负面影响,因此依赖于风格相似的输入图像来进行有效的虚拟染色(Hoque等人,2024;Vahadane等人,2016)。为了解决这个问题,(Su等人,2022)在虚拟免疫组化图像转换之前使用了Staintools对H&E图像进行了标准化。(Ke等人,2025)提出了一个可学习的标准化层LStainNorm,减少了手动模板选择的需求。然而,它们对H&E图像的RGB颜色映射的严重依赖限制了其泛化能力,并且需要大量的劳动力成本。
其次,在无监督学习的背景下,模型在没有监督信号的指导下难以区分视觉上相似的特征。这往往导致相似细胞或细胞外基质成分的错误分类。以前的方法通常依赖于人工干预来缓解这个问题,例如需要手动调整颜色对比度(Chen等人,2021)或图像内容对齐(Li等人,2021),以便区分复杂的组织区域。其他研究首先对容易混淆的特征进行注释,然后训练独立的模型来解决这些挑战。例如,(Liu等人,2021)预训练了一个病理表示网络来识别不同领域的癌变病变位置。同样,(Pati等人,2024)引入了一个基于专家预注释的细胞染色状态的细胞分类器。然而,这些方法仍然严重依赖于病理学家的专业知识,限制了它们的可扩展性。
为了解决上述限制,我们提出了一种基于深度学习的无监督虚拟纤维图像转换框架ViFIT,它能够将不同风格的H&E染色图像转换为特定的纤维图像。ViFIT包括两个阶段:H&E图像风格标准化和虚拟纤维转换。具体来说,ViFIT首先使用额外的预训练任务来标准化多样的H&E染色风格,同时保留图像内容。这些标准化的图像作为中间结果,进一步通过一个强度反转、对纤维敏感的模块以粗到细的方式生成高质量的纤维表示。与现有方法不同,我们的无监督框架在两个阶段过程中不需要人工干预,从而减少了与风格变化和图像预注册相关的复杂性。
此外,我们引入了一种高效的辅助诊断解决方案ViFIT辅助的病理学方法,在术后和术中环境中都得到了验证。它为病理学家提供了优选的标准化H&E染色图像,生成了各种类型的虚拟纤维图像,并揭示了与真实染色图像一致的与肿瘤相关的纤维模式。此外,ViFIT辅助的病理学方法提供了胶原纤维对齐和方向的定量指标,减少了主观变异性并简化了工作流程。为了评估,我们建立了一个公开的H&E到纤维数据集,其中包括通过共注册的谐波生成(SHG)图像揭示的胶原纤维,以及网状纤维染色(RF)和Masson三色染色的图像,涵盖了七种不同的组织疾病类型。全面的实验结果表明,ViFIT在风格标准化和虚拟染色的无监督任务方面优于现有的最先进方法。
本研究的贡献总结如下:
1. 我们提出了一种无监督的虚拟纤维图像转换框架,可以将多种H&E染色图像风格转换为目标纤维图像。该框架作为辅助诊断工具,称为ViFIT辅助的病理学方法,并已在术后和术中环境中得到验证。
2. 我们提出了两种新的预训练任务——风格预测和语义一致性——来标准化多样化的H&E图像风格,同时保留原始图像内容。此外,ViFIT结合了一个强度反转、对纤维敏感的模块,以粗到细的方式有效区分纤维结构与细胞成分和背景区域。
3. 我们建立了一个公开的H&E到纤维数据集,包括共注册的未染色SHG图像,以及RF和MT染色的参考图像,涵盖了七种不同的组织疾病类型。
4. ViFIT在H&E风格标准化和纤维生成任务中达到了最先进的性能,优于现有的基线方法。此外,它还展示了强大的跨疾病泛化能力,生成的纤维图像便于精确的下游量化。