TranSAC：基于任务特性与领域共性的无监督迁移性度量新方法

《Pattern Recognition》：Universal Image Restoration via Task-Adaptive Diffusion Degradation Oriented Model

本文提出了一种创新的无监督迁移性度量指标TranSAC（Transferability based on task Speciality And domain Commonality），该指标首次将任务特性（类间分离度）与领域共性（域间相似性）相结合，通过熵理论框架解决了现有方法依赖目标域标签和忽视领域共性的两大局限。实验证明其在预训练模型筛选、目标域排序等任务中优于现有主流指标。

　　

^*研究亮点^*

本文提出首个无需目标域标签的迁移性度量指标TranSAC，通过理论推导揭示迁移性能与四个关键熵项的关系：条件熵H(?|T)和H(T|?)反映任务特性（值越低表示类间可分性越强），熵H(T)表征领域共性（值越高表示域间相似度越大），而H(?)关联源域性能。基于此构建的TranSAC指标巧妙融合任务特性与领域共性，在36个预训练模型（含CNN/ViT）和12个目标数据集的验证中展现出卓越的排序能力。

^*相关研究^*

现有迁移性度量方法可分为基于特征冗余度（H-score）、条件分布（LEEP）、标签证据（LogME）等类型，但普遍存在两大缺陷：一是依赖目标域标签，二是仅关注任务特性而忽略领域共性。近期虽有研究探索神经坍缩（NCTI, Face）等现象，但无监督场景下的迁移性评估仍属空白。

^*理论基础^*

通过分析固定表征T的迁移性能上下界，发现无监督迁移性能可由熵量化指标刻画。具体而言：1）降低H(?|T)和H(T|?)可提升任务特异性，促进类间分离；2）提高H(T)能增强域间相似性，缓解负迁移；3）较高的H(?)暗示源域模型具有较强的表征能力。这些理论洞察为TranSAC的设计提供了数学依据。

^*实验验证^*

在预训练模型排序任务中，TranSAC与真实迁移性能的斯皮尔曼相关系数达0.89，显著优于H-score（0.72）和LogME（0.75）。对于目标域排序，在Office-Home数据集上的实验显示，TranSAC能准确识别与源域分布最接近的目标域（如Art→Clipart子任务），其排序结果与真实迁移准确率高度一致。

^*结论^*

TranSAC通过联合优化任务特性和领域共性，为无监督迁移学习场景提供了理论严谨且实用的评估工具。未来工作将探索该指标在跨模态迁移及医疗影像分析等领域的应用。