编辑推荐：
针对深度神经网络对输入微小扰动高度敏感（对抗样本）却对大幅差异输入预测近似相同（近似特征碰撞）的矛盾现象，本研究系统探讨了神经网络中特征碰撞的精确性理论边界。研究人员通过分析网络权重，提出了精确特征碰撞存在的充分条件，并开发了不依赖启发式的“零空间搜索”数值方法，成功为分类、分割、定位等多种任务构造出具有碰撞特征的数据点。该研究从理论上证明了神经网络不仅存在近似特征碰撞，更存在精确特征碰撞，为理解模型稳健性提供了新视角。
深度学习模型，尤其是深度神经网络（DNNs），在计算机视觉等领域取得了非凡的成功，但它们的“怪癖”也一直困扰着研究者。一方面，它们无比脆弱，一张人眼难以察觉的、添加了特殊噪声的图片——即所谓的“对抗样本”——就能轻易骗过最先进的模型，让它把熊猫认成秃鹫。另一方面，这些模型有时又显得异常“钝感”：两张在人看来天差地别的图片，模型却可能给出几乎一模一样的预测结果。这种现象被称为“近似特征碰撞”，它意味着网络内部为这两张迥异的图片提取并最终用于决策的特征表示，在某个层面“撞车”了，从而导向相似的输出。
那么，这种“撞车”是偶然的近似，还是某种必然的精确重合？之前的研究大多停留在观察近似碰撞的层面。为了深入探究神经网络特征表示的底层机制，并厘清近似碰撞与精确碰撞的理论边界，一个研究团队在《Scientific Reports》上发表了一项研究。他们不仅从网络权重角度为特征碰撞提供了更严格的理论审视，更令人惊讶地证明：在满足特定条件时，神经网络中完全可能存在“精确特征碰撞”，即两个截然不同的输入会被网络映射到完全相同的特征表示。此外，他们还提出了一种名为“零空间搜索”的普适性方法，能够系统地为几乎任何网络和任务（如图像分类、语义分割、目标定位）构造出这类具有碰撞特征的数据点。
为了开展这项研究，作者主要运用了理论分析与数值计算相结合的方法。核心是“零空间搜索”这一算法，它不依赖于任何启发式规则，而是通过数学构造直接在给定神经网络的权重空间中，寻找能使不同输入产生完全相同特征表示的变换。
结果部分主要包括以下发现：
1. 从近似碰撞到精确碰撞的理论扩展： 研究首先巩固并扩展了先前关于近似特征碰撞的工作。他们指出，近似碰撞揭示了模型对大幅度输入变化的不敏感性，但其存在性通常依赖于优化和启发式方法。本研究则向前迈进了一步，从网络权重（weights）的数学结构出发，推导出了精确特征碰撞存在的充分条件。这标志着对问题理解从现象观察向严格理论证明的转变。
2. 精确特征碰撞的充分条件： 通过分析神经网络的层级结构和激活函数，研究人员识别出导致精确特征碰撞的关键场景。他们证明，当网络的权重矩阵存在非平凡的零空间（null space），且输入扰动位于该零空间中时，经过线性变换层后，原始输入与扰动后输入的特征表示将完全一致。对于带有特定非线性激活函数（如ReLU）的网络，研究也分析了其产生精确碰撞的可能性条件。这些条件为理解何种网络架构更容易或更不容易发生特征碰撞提供了理论依据。
3. Null-space search：一种构造碰撞点的通用方法： 基于上述理论，研究提出了“零空间搜索”算法。该方法的核心思想是，对于给定的一个参考输入（源点）和一个预训练好的神经网络，通过求解约束优化问题，主动寻找另一个输入（目标点），使得两者在网络某一层或最终层的特征表示完全相同。此方法不限于分类任务，可泛化至需要密集预测的任务，如语义分割（每个像素都需要分类）和目标定位（标定物体位置）。实验表明，该方法能成功为多种主流网络架构（如VGG、ResNet等）和不同视觉任务生成视觉上差异巨大但特征完全碰撞的数据点。
4. 在不同网络与任务中的验证： 研究在大量用于解决计算机视觉问题的深度神经网络上验证了理论发现与所提方法的有效性。不仅在图像分类网络上观察到了精确特征碰撞，在更复杂的全卷积网络（FCN）用于语义分割、以及区域建议网络（RPN）用于目标定位的场景下，也成功构造出了碰撞样本。这证明了精确特征碰撞不是特定于某一任务或简单网络的孤立现象，而是深度神经网络中一个更为普遍存在的理论特性。
结论与讨论部分强调， 这项工作揭示了深度神经网络一个此前未被充分认识的理论漏洞：它们不仅容易受到微小对抗性扰动的攻击（导致输出巨变），也潜藏着对巨大输入差异不敏感的问题，甚至可以达到特征表示完全相同的极端情况（精确特征碰撞）。这一发现对理解模型的稳健性（robustness）、可解释性（interpretability）以及泛化能力（generalization）具有重要意义。它表明，仅关注对抗鲁棒性可能不够，还需审视模型在特征空间中的表达一致性。研究所提出的“零空间搜索”方法，为系统化研究此类现象提供了工具，未来或可用于评估模型安全性、改进网络架构设计以防止非预期的特征混淆，乃至启发新的数据增强或模型正则化策略。总之，该研究将特征碰撞从一种观测到的近似现象，提升到了一个可严格分析、可精确构造的理论问题高度，拓宽了深度学习可靠性研究的视野。
