用于分类和回归任务的通用领域对齐框架

《IEEE Transactions on Artificial Intelligence》：Universal Domain Alignment Framework for Classification and Regression Tasks

无监督领域适应中，UDAF框架通过目标空间耦合模块(TSCM)统一优化分类与回归任务的结构，结合领域嵌入一致性损失(DECL)消除局部分布偏移，提升跨域特征对齐效果。

　　

影响声明：

UDAF可以通过整合其核心组件（DECL和TSCM）轻松集成到现有的领域适应方法中。TSCM可以添加到专注于输出的模型中...显示更多

摘要：

无监督领域适应（UDA）是一种将知识从标记的源领域转移到未标记的目标领域的重要技术，在分类和回归任务中都具有显著的价值。然而，现有的方法通常是为单一任务设计的，缺乏能够同时处理这两种类型的统一框架。此外，尽管全局分布对齐可以减少源领域和目标领域之间的总体差异，但局部特征空间中的不一致性仍然存在。这些局部不一致性可能会在高级语义结构中引入偏差，增加特征分布的变异性，并显著削弱模型在目标领域的泛化能力。为了解决这些挑战，我们提出了一个通用的领域对齐框架（UDAF），该框架通过目标空间耦合模块（TSCM）和领域嵌入一致性损失（DECL）实现了分类和回归任务的统一建模，同时减少了局部分布差异。在UDA中，TSCM优化输出空间的结构以满足分类和回归任务的要求。具体来说，对于标记的源领域数据，我们最小化特征与其对应类别中心之间的距离，以便在输出空间中聚类相似的样本。对于未标记的目标领域数据，使用预测概率生成伪标签来估计目标类别中心，并动态更新类别中心以优化输出空间结构。同时，DECL从样本到领域的角度对局部特征进行对齐。通过测量目标领域样本与源领域子空间的正交基之间的距离，DECL明确捕获了局部分布偏差，并将其作为优化目标，进一步增强了跨领域特征的细粒度对齐。所提出的UDAF具有高度的可扩展性，可以无缝集成...

显示更多

引言

无监督领域适应（UDA）[39]指的是使用来自源领域的标记数据训练模型，并在遵循不同数据分布的未标记目标领域上部署模型的问题设置。与传统的监督学习不同，UDA在训练期间只能访问未标记的目标数据，因此弥合这两个领域之间的差异至关重要。UDA被广泛用于减少现实世界应用中由于分布变化导致的性能下降。通过将知识从标记的源领域转移到未标记的目标领域，UDA显著减少了昂贵的手动注释需求，并提高了模型在部署环境中的泛化能力。这使得UDA在图像分类、姿态估计和深度预测等任务中特别有价值，因为在这些任务中为每个新领域收集标记数据是不切实际的。