ViFIT辅助的病理学分析:从H&E染色标准化到虚拟纤维图像转换

《Medical Image Analysis》:ViFIT-assisted Histopathology: From H&E Style Standardization to Virtual Fiber Image Transformation

【字体: 时间:2026年03月23日 来源:Medical Image Analysis 11.8

编辑推荐:

  虚拟染色辅助病理诊断方法通过未监督深度学习标准化H&E染色风格并生成纤维图像,解决多中心会诊中的染色差异问题,建立公开数据集验证其跨癌症类型和手术场景的实用性。

  
王书|张晓|王行福|吕晨勇|韩夏辉|林雄|康德勇|林若兰|胡丽文|涂浩华|黄峰|刘文熙|陈建新
福州大学机械工程与自动化学院,中国福州350108

摘要

基于深度学习的虚拟纤维染色为常规的H&E病理学提供了有前景的补充。然而,对预定义染色风格的依赖和人工干预限制了现有方法的临床应用。为了解决这些挑战,我们引入了ViFIT辅助的病理学方法,这是一种两阶段的诊断方法,它整合了我们提出的基于无监督深度学习的虚拟纤维转换模型(ViFIT)。该方法能够将具有不同染色风格的H&E染色图像转换为病理学家偏好的H&E图像,同时生成包含无标记胶原纤维以及染色网状和弹性纤维的内容一致的虚拟纤维图像。ViFIT辅助的病理学方法揭示了与肿瘤相关的纤维结构,并为多个术中和术后病例提供了定量指标。实验结果表明,ViFIT在风格标准化和虚拟染色方面显著优于现有的无监督方法,适用于各种下游任务和癌症类型。通过消除对染色变化和人工注释的需求,ViFIT辅助的病理学方法简化了病理学工作流程,使其非常适合多中心咨询和鉴别诊断。

引言

病理学是金标准病理诊断的重要组成部分,在确保诊断准确性和可靠性方面发挥着不可替代的作用(Nature Biomedical Engineering, 2017)。苏木精和伊红(H&E)染色在常规临床病理学中广泛用于初步诊断,可以突出显示细胞核和细胞质的形态结构(Fischer等人,2008)。然而,H&E染色无法特异性地捕捉某些细胞外基质成分,如与肿瘤相关的纤维(Chen等人,2019),这些成分在肿瘤进展过程中会发生显著形态变化。这些变化对于鉴别诊断(Ghossein RA,2022)和预后预测(Chen等人,2019;Qiu等人,2022)至关重要。为了清晰地可视化这些特征,病理学家通常需要使用多种专门的纤维染色方法进行综合诊断(de Haan等人,2021;Latonen等人,2024;Lin等人,2022)。由于组织固定和染色方案的要求严格(Levy等人,2021;Zhang等人,2022),专门的染色技术在术中诊断等时间敏感的场景中难以实施。
基于深度学习的虚拟染色(Bai等人,2023)或虚拟图像转换方法最近引起了病理学家的广泛关注,因为它们提供了一种绕过劳动密集且耗时的染色过程的替代方案。这些技术利用强大的深度生成神经网络直接将H&E染色图像转换为相应的特定染色或无标记图像。例如,(Rivenson等人,2019)引入了一种基于GAN的虚拟染色技术PhaseStain,可以将定量相位图像转换为H&E染色、Jones染色和Masson三色染色(MT)。(Keikhosravi等人,2020)提出了一个卷积神经网络(CNN)模型,用于将H&E图像转换为二次谐波生成图像。(de Haan等人,2021)使用条件生成对抗网络(cGAN)将H&E图像转换为特殊染色图像,包括MT、Periodic Acid-Schiff和Jones Sliver染色。同样,(Naglah等人,2022)使用基于cGAN的模型实现了从H&E到MT的精确像素级转换。尽管取得了这些进展,但由于专家注释的缺乏和训练数据的稀缺(McNeil等人,2024;Zhang等人,2020),这些技术在病理学中的广泛应用仍然受到限制,这阻碍了图像转换能力。
因此,基于无监督学习的虚拟染色方法成为研究的一个重要领域,也是本研究的重点。在这方面,(Zhang等人,2022)提出了MVFStain,这是一个创新框架,它利用KL损失和histo损失有效地对齐和分离不同图像域的风格特征空间,从而实现了从H&E染色图像到多重功能染色的转换。(Kang等人,2022)和(Cao等人,2023)开发了基于循环一致性生成对抗网络(CycleGAN)的无监督深度学习方法,将UV-PAM图像转换为类似H&E的伪彩色组织学图像。(Shen等人,2024)实现了一个对比性未注册的补丁级学习转换网络,将刺激拉曼散射和多光子图像转换为H&E对应图像。
尽管具有潜力,无监督虚拟染色面临两个重大挑战。首先,来自不同机构的H&E图像通常表现出多样的风格,这可能导致相同组织特征的表示存在差异。现有的无监督转换方法难以缓解这些风格变化的负面影响,因此依赖于风格相似的输入图像来进行有效的虚拟染色(Hoque等人,2024;Vahadane等人,2016)。为了解决这个问题,(Su等人,2022)在虚拟免疫组化图像转换之前使用了Staintools对H&E图像进行了标准化。(Ke等人,2025)提出了一个可学习的标准化层LStainNorm,减少了手动模板选择的需求。然而,它们对H&E图像的RGB颜色映射的严重依赖限制了其泛化能力,并且需要大量的劳动力成本。
其次,在无监督学习的背景下,模型在没有监督信号的指导下难以区分视觉上相似的特征。这往往导致相似细胞或细胞外基质成分的错误分类。以前的方法通常依赖于人工干预来缓解这个问题,例如需要手动调整颜色对比度(Chen等人,2021)或图像内容对齐(Li等人,2021),以便区分复杂的组织区域。其他研究首先对容易混淆的特征进行注释,然后训练独立的模型来解决这些挑战。例如,(Liu等人,2021)预训练了一个病理表示网络来识别不同领域的癌变病变位置。同样,(Pati等人,2024)引入了一个基于专家预注释的细胞染色状态的细胞分类器。然而,这些方法仍然严重依赖于病理学家的专业知识,限制了它们的可扩展性。
为了解决上述限制,我们提出了一种基于深度学习的无监督虚拟纤维图像转换框架ViFIT,它能够将不同风格的H&E染色图像转换为特定的纤维图像。ViFIT包括两个阶段:H&E图像风格标准化和虚拟纤维转换。具体来说,ViFIT首先使用额外的预训练任务来标准化多样的H&E染色风格,同时保留图像内容。这些标准化的图像作为中间结果,进一步通过一个强度反转、对纤维敏感的模块以粗到细的方式生成高质量的纤维表示。与现有方法不同,我们的无监督框架在两个阶段过程中不需要人工干预,从而减少了与风格变化和图像预注册相关的复杂性。
此外,我们引入了一种高效的辅助诊断解决方案ViFIT辅助的病理学方法,在术后和术中环境中都得到了验证。它为病理学家提供了优选的标准化H&E染色图像,生成了各种类型的虚拟纤维图像,并揭示了与真实染色图像一致的与肿瘤相关的纤维模式。此外,ViFIT辅助的病理学方法提供了胶原纤维对齐和方向的定量指标,减少了主观变异性并简化了工作流程。为了评估,我们建立了一个公开的H&E到纤维数据集,其中包括通过共注册的谐波生成(SHG)图像揭示的胶原纤维,以及网状纤维染色(RF)和Masson三色染色的图像,涵盖了七种不同的组织疾病类型。全面的实验结果表明,ViFIT在风格标准化和虚拟染色的无监督任务方面优于现有的最先进方法。
本研究的贡献总结如下:
  • 1. 我们提出了一种无监督的虚拟纤维图像转换框架,可以将多种H&E染色图像风格转换为目标纤维图像。该框架作为辅助诊断工具,称为ViFIT辅助的病理学方法,并已在术后和术中环境中得到验证。
  • 2. 我们提出了两种新的预训练任务——风格预测和语义一致性——来标准化多样化的H&E图像风格,同时保留原始图像内容。此外,ViFIT结合了一个强度反转、对纤维敏感的模块,以粗到细的方式有效区分纤维结构与细胞成分和背景区域。
  • 3. 我们建立了一个公开的H&E到纤维数据集,包括共注册的未染色SHG图像,以及RF和MT染色的参考图像,涵盖了七种不同的组织疾病类型。
  • 4. ViFIT在H&E风格标准化和纤维生成任务中达到了最先进的性能,优于现有的基线方法。此外,它还展示了强大的跨疾病泛化能力,生成的纤维图像便于精确的下游量化。

章节片段

ViFIT工作流程

在这项工作中,我们提出了一个名为ViFIT的新框架,旨在通过两个阶段将不同风格的H&E图像转换为虚拟纤维图像:H&E染色图像风格标准化和虚拟纤维转换,如图1所示。ViFIT的工作流程。 ViFIT分为两个阶段:H&E图像风格标准化(阶段1)和虚拟纤维转换(阶段2)。在阶段1中,ViFIT使用两个生成器——标准化生成器(S-Gen)和

伦理声明

所有用于回顾性研究的匿名组织收集都是根据福建医科大学第一附属医院(2023-289)和福建医科大学联合医院(2020-085)的机构审查委员会批准的协议进行的。对于用户研究,所有参与者在参与图像风格问卷之前都提供了书面知情同意。

显微镜数据集

我们建立了两个公开的未配对图像数据集:一个多风格的乳腺H&E染色数据集和

H&E染色图像风格标准化

为了验证ViFIT的H&E风格标准化性能,我们使用了来自我们收集的数据集和BreakHis公共数据集(Spanhol等人,2016)的五种不同代表性H&E风格的图像作为输入图像(图4)。图4a展示了将一个大规模乳腺癌H&E图像(显示颜色偏差)转换为标准化风格图像的过程。标准风格是由来自不同机构的16位病理学家共同确定的

讨论与结论

特殊的染色技术和无标记的SHG成像提供了从不同角度表征纤维的互补方法(Latonen等人,2024;You等人,2018)。然而,它们的诊断效用受到实际挑战的限制,包括从单个组织切片获得纤维染色图像所需的复杂协议。此外,SHG成像系统的高成本和有限的临床采用阻碍了其在常规病理学中的广泛应用。

数据可用性

我们收集的多风格H&E染色图像数据集以及H&E到纤维数据集将在接受后提供。BreakHis数据集可在https://www.kaggle.com/datasets/ambarish/breakhis获取。BACH数据集可在https://iciar2018-challenge.grand-challenge.org获取。BreCaHAD数据集可在https://bmcresnotes.biomedcentral.com/articles/10.1186/s13104-019-4121-7获取。

代码可用性

ViFIT的代码、预训练模型和相关资源可在https://drive.google.com/drive/folders/1SGtIRAei9SHJvQ9GV4DosyJnCGIYK3F_?usp=drive_link获取

作者贡献

S.W.、W.L.、F.H.和J.C.设计并指导了这项研究;C.L.、S.W.和W.L.建立了ViFIT框架;X.Z.、C.L.和X.L.进行了定量分析;S.W.和X.H.进行了多光子成像实验;X.W.、X.H.、D.K.、R.L.和L.H.进行了样本处理;S.W.、W.L.、X.Z.、X.W.、C.L.和H.T.撰写了论文,所有作者都做出了贡献。

未引用的参考文献

病理学自动化时机已成熟 2017

CRediT作者贡献声明

王书:写作——审阅与编辑,写作——初稿,监督,项目管理,方法论,概念化。张晓:写作——审阅与编辑,写作——初稿,可视化,软件,形式分析。王行福:写作——审阅与编辑,写作——初稿,资源,调查。吕晨勇:写作——审阅与编辑,写作——初稿,验证,软件,方法论。韩夏辉:资源,调查。林雄:形式
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号