编辑推荐：
本刊推荐文章：面对海床（benthic）图像注释中存在模糊、分布外样本和标注不一致等挑战，研究人员开发了一种创新的末层委员会机器（Last-layer committee machine, LLCM）方法。该方法通过独立训练的线性层委员会成员，在单次前向传播中高效获取样本级别的不确定度，并与贝叶斯模型平均（BMA）、蒙特卡洛Dropout（MCD）等方法在性能相近的前提下，实现了>95%的网络参数减少，为提升海床栖息地自动制图与海洋管理决策支持工具的可信度提供了一种计算友好、可扩展的策略。
广阔的海洋是地球的蓝色心脏，而其“海底世界”的样貌与变化，对理解海洋生态系统健康至关重要。然而，借助水下成像技术获取的海量海床（benthic）图像，其自动化分析与标注却是一项艰巨的任务。这些图像常常模糊不清，不同专家对同一张图的标注可能存在分歧，而且模型总会遇到与训练集差异巨大的“陌生”图片。传统的深度学习方法，如使用交叉熵损失函数和softmax归一化训练的卷积神经网络（CNN），虽然表现出色，但往往会对自己的预测“过于自信”，即使是在错误的情况下。这种过度自信的预测会给下游任务，如海床栖息地制图和海洋空间规划，带来可靠性风险。那么，能否让模型“坦诚”地告诉我们哪些预测它不确定，以便人类专家能够有针对性地介入核查，从而提升整个注释流程的效率与准确性呢？这正是发表在《Neural Networks》期刊上的这项研究想要解决的核心问题。
为了回答上述问题，研究团队聚焦于评估模型预测的“不确定性”（uncertainty）。不确定性来源多样，既有数据本身固有的“偶然性（aleatoric）不确定性”，如标注错误，也有模型因知识不足而产生的“认知性（epistemic）不确定性”，比如面对分布外样本。研究比较了贝叶斯模型平均（BMA）和蒙特卡洛Dropout（MCD）推理采样等传统不确定性评估方法，并提出了一种创新的、名为“末层委员会机器”（Last-Layer Committee Machine, LLCM）的方法。其核心思想是，在特征提取网络（如ResNet-50）之后，连接一个由多个独立随机初始化的线性层（即“委员会成员”）组成的模块。每个成员在训练时接收相同的特征表示，但独立计算损失（交叉熵）并进行反向传播。在推理时，只需单次前向传播，将所有委员会成员的softmax输出进行平均，即可得到预测的后验分布及相应的不确定度。这种方法将特征学习与不确定度估计解耦，极大地提升了计算效率。
本研究主要应用了深度学习方法，包括卷积神经网络（CNN）和残差网络（ResNet）进行特征提取，并比较了多种不确定性评估策略。关键技术方法包括：1) 使用贝叶斯神经网络（BNN）及其近似方法（如蒙特卡洛Dropout）作为基线；2) 提出并实现了末层委员会机器（LLCM）架构，其核心是包含多个独立线性分类器的模块化设计；3) 在公开数据集MNIST以及大型海床图像数据集BenthicNet的两个子集（German Bank 2010和Substrate (depth 2)）上进行了基准测试与实际应用验证；4) 采用了模型校准（如温度缩放）和多种评估指标（如预期校准误差ECE、不确定性度量图）来量化网络性能和置信度可靠性。
研究结果：
3.1. 不确定性评估器：该部分从贝叶斯理论出发，定义了后验预测分布，并指出通过蒙特卡洛近似（如MCD）或LLCM的平均化操作，可以近似该分布以获得不确定度。研究明确了数据不确定性和模型不确定性的来源，并给出了LLCM的数学形式化描述，即对多个委员会成员的预测概率进行平均。
3.2. 数据收集与处理：研究使用了MNIST数据集进行方法验证，并重点使用了来自BenthicNet数据集的German Bank 2010（5类，3181张图）和Substrate (depth 2)（5类，57149张图）两个具有挑战性的海床图像子集。详细描述了数据集划分、类别分布、图像预处理（调整大小、标准化）以及类别权重的计算过程。
3.3. 网络配置、超参数与校准：详细列出了针对不同数据集和网络架构（BNN、CNN、LLCM）的具体配置、训练周期、优化器、学习率、损失函数等超参数。特别说明了LLCM的训练方式是将所有委员会成员的损失求和后回传。此外，还介绍了使用贝叶斯优化进行模型校准（温度缩放）以改善预测概率的校准度。
4. 实验：该部分通过大量实验验证了LLCM的有效性。首先，通过分析委员会成员权重的变异系数（CV）和奇异值分解（SVD），证实了随机初始化足以在LLCM成员间产生足够的多样性，这是其能够捕捉模型不确定性的关键。其次，在MNIST和BenthicNet数据集上的比较实验表明，LLCM在获得与BMA、MCD等方法相近的不确定度估计性能的同时，显著减少了计算开销（参数量减少>95%）。通过绘制“不确定度度量图”（即随着置信度阈值提高，剩余样本的准确率变化曲线），直观展示了LLCM在筛选高不确定样本（供人工复核）方面的有效性。研究还发现，在BenthicNet数据集上，结合标签平滑（label smoothing）或logit归一化（logit normalization）技术，可以进一步提升LLCM的性能。
结论与讨论：
本研究成功提出并验证了末层委员会机器（LLCM），将其作为一种高效、可扩展的方案，用于获取海床图像分类中的样本级别不确定度。与需要多次采样或训练多个完整模型的贝叶斯近似方法相比，LLCM仅需在推理时进行一次前向传播，并大幅降低了参数计算量，同时保持了可比的性能。研究表明，仅通过随机初始化委员会成员，而无需额外的促进多样性策略，就足以获得有意义的认知不确定性估计。研究所引入的“不确定性度量图”为分析网络在不同置信度阈值下的选择性能提供了有力的可视化工具。
这项工作的意义深远。它为解决海床图像分析——这一对数据质量要求高、且充满挑战的领域——中的可靠性问题提供了切实可行的工具。通过LLCM生成的“不确定样本优先列表”，可以高效地引导人类专家进行“人在回路”（human-in-the-loop）干预，从而识别出模糊、错标、分布外或难以分类的图像。这不仅能够增强现有海床注释工具的能力，提升海床栖息地自动制图的可靠性，也为海洋生态监测和环境管理决策提供了更可信的数据支持。此外，LLCM的模块化设计使其易于与不同的预训练特征提取网络结合，具有良好的通用性和可扩展性，有望应用于其他存在数据模糊性和分布偏移问题的视觉任务领域。
