基于全息缩减表示(HRR)的神经符号损失在数量感知泛化能力中的研究

《Cognitive Systems Research》：Towards Generalization in Subitizing with Neuro-Symbolic Loss using Holographic Reduced Representations

本文提出一种基于全息缩减表示(HRR)的神经符号损失函数，通过距离度量替代传统交叉熵(CE)损失的相似度计算，显著提升了卷积神经网络(CNN)和视觉变换器(ViT)在数量感知(subitizing)任务中的泛化能力。实验表明HRR损失能使模型表现出更接近人类认知的数值感知模式（如数量>5时准确率下降），为弥合深度学习与人类感知能力提供了新思路。

　　

^亮点

首先我们概述了向量符号架构(VSA)在连接主义与符号AI范式中的桥梁作用，随后讨论了将VSA整合到神经网络以增强推理学习的前沿研究。接着从认知科学角度阐释HRR的成功案例，重点分析其在人类认知建模中的优势。后续小节将系统梳理数量感知的认知建模与机器学习方法。

^背景

在定义新损失函数前，我们简要介绍全息缩减表示(HRR)。作为向量符号架构(VSA)的一种形式，HRR利用循环卷积在分布式表示中编码组合结构（Plate, 1995）。给定d维空间R^d中的两个向量x_i和y_i，Plate通过循环卷积操作实现向量间的"绑定"，该操作可借助...

^数据集

本研究通过数值数据库评估HRR损失函数与CE损失在数量感知泛化中的效能。使用6000张100×100灰度训练图像，分别采用CNN和ViT网络进行双损失函数训练。

^实验

数值感知被视为最基础的先天认知计算任务之一。人类无需显式计数即可瞬时感知≤4个物体的能力（Trick和Pylyshyn, 1994）展现出对物体类型、形状、颜色变化的强鲁棒性。本研究通过控制实验系统分离数量感知泛化的特定维度。

^结果

为评估HRR损失函数性能，我们开展"基线测试"与"泛化测试"。所有实验均采用三种随机初始化的CNN和ViT模型，以均值±标准差报告各类别准确率。HRR损失在四项基线实验中持续超越CE损失，F1分数提升显著（p<0.05），注意力热图显示模型更聚焦于目标物体空间分布。

^{结论与未来工作}

本文提出的HRR神经符号损失函数，通过结构化潜空间的距离优化使CNN和ViT模型在数量感知任务中表现出更接近人类的认知偏差。未来将探索HRR在多模态认知任务中的应用，并优化绑定操作的计算效率。