ASCF-RTDETR：一种用于多通道荧光图像中上皮细胞检测的自适应尺度协同特征学习方法

《Digital Signal Processing》：ASCF-RTDETR: Adaptive scale collaborative feature learning for epithelial cell detection in multichannel fluorescence images

多通道荧光成像中提出ASCF-RTDETR模型，通过自适应多尺度协同特征融合（AMFF）、动态直方图注意力（DHIFI）模块及轻量化双卷积结构，有效解决密集细胞分布、多尺度特征提取及跨任务泛化难题，在自建MBEMF数据集及公开数据集上达到93.5% mAP50和90.7% F1-score，计算成本降低50%。

　　

陆志民|张青|田博恒|葛福华|莫晨曦|郭瑞|段贤斌|郭春明|余鹏飞

云南大学信息科学与工程学院，昆明，650500，中国

摘要

多通道荧光成像在细胞类型识别和病理诊断中起着关键作用。然而，手动分析荧光图像容易导致误诊和漏诊。尽管人工智能算法具有潜力，但现有方法难以提取具有区分性的特征，从而影响了病理分析的准确性。本研究提出了一种名为ASCF-RTDETR的新模型，用于精确检测多通道荧光图像中的上皮细胞。ASCF-RTDETR结合了自适应多尺度协同特征融合（AMFF）模块，通过水平和垂直双路径并行传播实现全面的特征交互。该模型还采用了高效特征上采样卷积（HFUC）和多尺度卷积块（MSCB）来增强特征表示。此外，引入了基于动态直方图注意力的尺度内特征交互（DHIFI）模块，利用逐 bin 和频率级的双路径重建来增强细胞边界特征。同时，集成了一种轻量级的双卷积（DualConv）结构，以降低计算复杂度并提供对成像噪声的隐式正则化。在自构建的多通道荧光标记上皮细胞数据集上的实验表明，ASCF-RTDETR具有卓越的检测性能，mAP50 分数为93.5%，F1 分数为90.7%，且计算成本比基线模型降低了近50%。该模型在多个公共数据集上也表现出很强的泛化能力，为自动上皮细胞检测和分析提供了可靠的解决方案。

引言

上皮细胞，包括泌尿上皮细胞、肠道上皮细胞和皮肤上皮细胞，是生物体与其环境之间的重要屏障。它们的功能障碍常常导致疾病，例如由病原体与上皮细胞相互作用引起的感染，而大多数实体肿瘤则源于上皮细胞的基因突变或异常增殖。准确识别上皮细胞的位置和类型在生物医学研究和临床诊断中至关重要。尽管像素级分割可以提供精确的细胞轮廓，但在多通道荧光成像中，由于细胞边界重叠和荧光强度不均匀等因素，研究人员更关注细胞的空间分布和定量统计。因此，开发高效准确的细胞定位和分类方法具有重要意义。多通道荧光成像技术可以区分上皮细胞亚型，计算不同细胞类型的数量和百分比，分析特定标记物的表达水平，并进行定性或定量分析，为数据评估和临床预后评估提供有力支持[1]。此外，在生物医学研究中，通过分析不同荧光标记物中的细胞计数和有利表达率，研究人员可以更全面地观察和揭示上皮细胞的生长和凋亡模式（如细胞形态观察、基因表达和细胞追踪）。以膀胱上皮细胞为例，这对于研究生长和病理变化机制、损伤和修复过程以及相关治疗方法至关重要。这些研究发现为膀胱疾病的早期诊断、治疗和预后评估提供了重要证据[2]。然而，传统的荧光显微镜图像手动分析具有主观性、耗时且重复性差，尤其是在处理大量样本时容易出错，严重影响实验结果的可靠性。随着深度学习的发展，将自动细胞检测技术引入多通道荧光图像分析可以为相关研究提供更客观和准确的数据支持。

在早期的传统细胞形态检测中，研究人员需要通过显微镜单独观察和分析大量细胞样本。这不仅耗时，而且容易受到主观因素的影响。此外，随着临床样本量的大幅增加，纯手动检测方法已无法满足需求。为了解决这个问题，出现了计算机辅助诊断（CAD）技术[3]，利用医学图像处理和机器学习来提高大规模筛查和疾病诊断的效率。近年来，从基于CNN的两阶段检测器[4]到端到端的Transformer架构[5]，基于神经网络的细胞检测方法[6]为早期疾病诊断和动态监测提供了有力支持，通过自动识别和分类细胞类型。然而，现有算法仍面临以下挑战：

1.

细胞图像表现出显著的形态异质性，不同细胞类型在形态、大小和染色特征上存在明显差异，要求检测算法具备强大的特征提取能力。

2.

显微图像中细胞的空间分布模式非常复杂，从离散的单个细胞到高度聚集的细胞簇不等[7]。传统的细胞检测方法在处理重叠的、细胞群体形态多样的区域时表现不佳。

3.

在实际应用中，细胞检测系统必须同时处理各种细胞样本，如血细胞计数和多通道荧光细胞识别，这对算法的跨任务泛化能力提出了挑战。

4.

图像采集过程中的照明不均匀和设备差异导致同一类型细胞的外观差异显著[8]，严重影响模型的稳定性和识别可靠性。

此外，现有的细胞检测算法仍面临三个主要挑战：形态特征提取不足、在密集重叠场景下的检测性能下降以及有限的跨任务泛化能力，这在多通道荧光细胞识别中尤为明显。如图1所示，上皮细胞区域完全由白色虚线包围，这些虚线代表了经验丰富的病理学家精心划定的真实边界。这些封闭区域显示出不同的荧光标记信号，包括红色、绿色和蓝色荧光信号，同时包含红色和绿色信号的区域呈现黄色。这些标记的上皮细胞是本研究的主要检测目标，而蓝色信号代表间充质细胞和上皮细胞核。在样本制备过程中，一些间充质细胞难以与上皮细胞区分，由于手动成像，特定图像中的细胞轮廓几乎与背景融为一体。这些问题在处理密集聚集的细胞群与复杂背景时尤为突出。

为了解决这些挑战，并考虑到高效、低成本解决方案的临床需求，我们提出了基于RT-DETR架构的轻量级、自适应多通道荧光检测方法ASCF-RTDETR[9]。该方法在保持检测准确性的同时，通过增强的尺度协同特征学习最大化了计算效率。

我们的主要贡献如下：

•

为应对荧光显微镜图像中细胞分布密集和尺度差异带来的挑战，我们提出了AMFF模块。该模块采用创新的双路径传播机制实现全面的特征交互：水平路径保持空间分辨率以捕捉精细的细胞结构，而垂直路径促进跨尺度特征的深度融合。我们重新设计了高效特征上采样卷积和融合模块，显著提高了模型检测异质多尺度细胞群体的能力。

•

本研究引入了创新的DHIFI模块。该机制通过特征图的双路径重构实现低频和高频特征之间的高效交互，优化了特征分布，增强了细胞边界和形态特征的表示，专注于密集分布细胞的细节，并有效抑制了背景噪声干扰。

•

我们在主干网络中集成了DualConv，结合了平行的1×1和3×3卷积，以适应性地捕获从细胞边界到整体结构的多种尺度特征。这一设计显著降低了计算开销，同时通过结构正则化增强了模型的鲁棒性。

•

我们建立了小鼠膀胱上皮多通道荧光（MBEMF）数据集，如图2所示，该数据集由专业人士进行了精确的细胞级注释，旨在深入研究膀胱上皮细胞的生物学特性。为了全面评估模型的泛化性能，我们在包括BCCD[10]、DSB2018[11]和BBBC039在内的公共数据集上进行了跨数据集验证实验。实验结果表明，ASCF-RTDETR方法在复杂背景下的密集细胞检测任务中表现出优异的检测性能和泛化能力。

以下各部分的结构如下：第2节回顾相关工作并介绍理论基础，第3节详细描述所提出的方法，第4节介绍实验设计和结果分析，第5节讨论实验结果，最后第6节总结本文。

相关工作

相关工作

自适应尺度协同特征学习在细胞图像分析中是一个关键挑战。由于显微图像中细胞的显著尺度变化和形态多样性，传统的单尺度特征提取方法难以同时捕获不同大小细胞的特征。例如，在免疫荧光染色的膀胱组织切片中，由于分化状态的不同，上皮细胞可能表现出2-3倍的尺度差异[12]，导致

架构概述

本研究提出了ASCF-RTDETR，这是一种基于RT-DETR架构的自适应多通道荧光检测方法，用于膀胱上皮细胞，具有增强的尺度协同特征学习能力，如图3所示。以RTDETR-r50为基准，该方法包括四个核心组件：高效的混合编码器、双卷积主干网络、解码器和检测头。高效的混合编码器包括DHIFI和AMFF。DHIFI增强了特征表达

数据集

本研究使用的小鼠膀胱上皮多通道荧光数据集由云南大学生命科学学院提供。它包含了多种荧光多通道组合，对应于不同的细胞标记物和蛋白质表达模式，用于研究膀胱上皮细胞的增殖和分化机制。专家对数据集进行了注释，以确保高质量的训练和测试数据。

讨论

本研究提出的ASCF-RTDETR模型通过创新的自适应尺度协同特征学习策略，有效解决了精确多通道荧光识别膀胱上皮细胞的关键挑战。该模型通过重新设计的AMFF模块的水平 and 垂直双路径特征传播，显著增强了检测密集分布细胞的能力。该模块在处理复杂背景下的多尺度细胞目标时具有独特优势

结论

ASCF-RTDETR模型通过创新的特征增强机制和自适应融合策略，推动了密集多尺度细胞检测技术的发展。该模型的核心DHIFI和AMFF模块实现了细胞边界特征的精确提取和跨尺度特征的有效整合，显著提高了模型在不同分辨率下的检测鲁棒性。特别是在具有多通道荧光信号的复杂场景中，轻量级的双卷积结构

CRediT作者贡献声明

陆志民：概念化、方法论、软件、形式分析、调查、撰写——原始草稿、数据管理。张青：数据管理、资源、验证。田博恒：软件、数据管理。葛福华：数据管理、资源。莫晨曦：调查、验证。郭瑞：数据管理、验证。段贤斌：资源、验证。郭春明：监督、项目管理、资源、撰写——审阅与编辑。余鹏飞：监督、项目管理

利益冲突声明

作者声明他们没有已知的竞争财务利益或个人关系可能影响本文所述的工作。