一种基于微柱、树突和振荡机制的仿生脉冲序列记忆模型,用于文本检索

《Expert Systems with Applications》:A Bionic Spiking Sequence Memory Model with Minicolumns, Dendrites and Oscillation for Text Retrieval

【字体: 时间:2026年03月01日 来源:Expert Systems with Applications 7.5

编辑推荐:

  本文提出生物启发式脉冲序列记忆模型BSSM,整合神经小柱、锥体神经元、中间神经元及theta-gamma振荡机制,通过STDP学习实现输入编码为稀疏激活小柱,利用近端/远端树突分离存储序列与上下文,设计基于海马体回放的多阶段检索算法,在儿童书籍测试数据集上验证其检索准确率(80.7%)和鲁棒性显著优于传统深度模型及脑启发模型。

  
张云|蒲新林|罗晓玲|李萍|曲红
中国成都,西南石油大学计算机科学与软件工程学院,610500

摘要

记忆是大脑中最重要的认知功能之一,许多研究人员从不同角度提出了各种记忆模型来模拟记忆。然而,这些模型的仿生能力不足以模拟大脑的复杂性,导致准确性低且鲁棒性差。为了实现更精细的仿生能力,我们全面考虑了人类记忆涉及的机制,如神经小柱、锥体神经元、中间神经元和振荡,开发了一种具有高鲁棒性和准确性的新型仿生脉冲序列记忆模型(BSSM)。该模型模拟了记忆的编码、存储和检索过程。在编码方面,我们提出了一种新的记忆编码方案,结合了θ振荡、中间神经元和时序依赖性可塑性(STDP)方法,将输入项编码到多个稀疏活跃的小柱中。在存储方面,我们提出了一种新的记忆存储算法,通过在远端树突上建立侧向连接来存储两个相邻项目的上下文,并通过近端树突存储序列信息。在检索方面,集成了一种检索算法,使包含上下文的皮层神经元依次变得活跃,从而使具有最多上下文的输出神经元获胜。我们使用儿童书籍测试(CBT)数据集,在不同条件、各种参数设置和其他记忆模型下对BSSM模型的性能进行了实验验证。结果表明,与其他记忆模型(如基于小柱的模型、基于脉冲的模型和传统的深度模型)相比,BSSM模型具有更高的检索准确性和鲁棒性。

引言

记忆对人类、我们的生存和日常生活非常重要。大多数人所说的“记忆”是指情景记忆,它可以回忆起发生在特定时间和地点的过去事件(Sheridan等人,2024年)。情景记忆涉及编码、存储和检索大量序列的复杂过程。关于记忆有一些重要的发现。海马体和大脑皮层是情景记忆的关键脑区(Chettih, Mackevicius, Hale, & Aronov, 2024年),它们利用不同的放电脉冲活动和神经振荡来表示记忆信息(Kucewicz, Cimbalnik, Garcia-Salinas, Brazdil, & Worrell, 2024年)。在大脑皮层中,小柱(Kaas, 2016年)和锥体神经元(Mertens等人,2024年)广泛存在,并对记忆至关重要。此外,情景记忆能够检索仅发生一次的事件(即一次学习),大量研究表明,检索情景记忆依赖于重新播放最初经历的脉冲神经元活动(Yaffe等人,2014年)。此外,抑制性中间神经元是大脑皮层神经回路中的关键组成部分。一些中间神经元分布在小柱的不同层的锥体神经元中(Sultan & Shi, 2018年),一些前馈抑制的中间神经元从突触前兴奋性细胞接收输入,然后抑制突触后皮层细胞(Luo, 2021年)。同时,突触延迟在大脑中普遍存在,有助于记忆系统存储和检索信息(Becker, Nold, & Tchumatchenko, 2022年)。关键的是,大脑皮层中锥体神经元的树突结构在记忆处理中起着重要作用(Mertens等人,2024年)。远端树突整合侧向输入以实现关联上下文绑定,而近端树突处理前馈输入以实现模式识别和长期存储。
这些发现涵盖了从系统(海马体-皮层回路)和回路(小柱、中间神经元)到细胞组分(树突)的不同尺度,共同勾勒出了基于生物学的序列记忆的蓝图。然而,现有的计算模型在很大程度上未能将这些元素整合到一个连贯的架构中。现有的序列记忆方法沿着两条主要但往往不同的路径发展。一方面,机器学习模型(从RNNs(Gazehi, Loukil, & Besbes, 2025年;Nirosha & Vennila, 2025年;Zhang, Xue, Luo, Li, & Qu, 2025b年)和LSTMs(Faseeh等人,2025年;Sahi等人,2025年)到最近的Transformers(Liu等人,2026年;Shukla等人,2025年))通过基于梯度的优化和注意力机制在捕获序列数据中的长距离依赖性和时间模式方面表现出色。但它们依赖于连续激活和密集连接,这与生物系统的稀疏、事件驱动和形态多样的计算机制根本不同。此外,它们对大规模迭代训练的依赖性与大脑高效的一次性编码和检索情景记忆形成鲜明对比。另一方面,类脑模型追求更高的生物学保真度。基于小柱的模型(Cui, Ahmad, & Hawkins, 2016年;Hawkins, Ahmad, Dubinsky等人,2011年;Hawkins, Lewis, Klukas, Purdy, & Ahmad, 2019年;Starzyk, Horzyk等人,2019a年)引入了稀疏的柱状表示,但经常忽略了振荡和脉冲发射等详细神经动力学。脉冲神经网络(SNNs)(Bellec, Salaj, Subramoney, Legenstein, & Maass, 2018年;Luo, Liu, Chen, Zhang, & Qu, 2022年;Nicola & Clopath, 2019年;Zhang, Luo, Wu, Belatreche, Cai, Yang, Li, 2025年;Zhang, Shi, Luo, Chen, Wang, Qu, 2023年)可以捕捉神经信号的事件驱动性质,但它们经常简化或忽略了皮层小柱的结构组织、树突的功能分离以及信息在多个脑区之间的整合。因此,大多数先前的模型只捕捉到了记忆的孤立方面——无论是结构上的还是动态上的——并且缺乏一个统一的框架来整合多尺度的生物机制,以实现鲁棒性和效率。
为了弥合现有记忆模型和生物记忆机制之间的差距,本文提出了一种仿生脉冲序列记忆(BSSM)模型。与传统的机器学习方法、“混合”脉冲神经网络或基于小柱的方法不同,BSSM基于脉冲神经网络和STDP学习算法,建立了一个统一的框架,系统地整合了多尺度的生物机制,用于模拟记忆的整个编码、存储和检索过程。其核心设计原则体现在以下三个方面:(1)皮层小柱作为稀疏编码的竞争单元,由协调的θ-γ振荡和中间神经元介导的抑制支持,与海马节律相位锁定编码并保持稳定的稀疏活动。 (2)锥体神经元的近端和远端树突之间的功能分离分别实现了长期序列存储和短期上下文绑定,从而在皮层层面支持一次学习。 (3)利用海马体的序列代码,检索算法依次激活皮层锥体神经元和输出神经元,实现逐步的上下文预测和完整的序列重建,反映了系统级的信息传递和跨脑区的整合。这个框架是第一个统一了三个生物机制尺度的框架——结构组织(小柱、抑制)、细胞组分(树突计算)和系统级动态(海马体-皮层),为理解和模拟生物记忆提供了新的方法。
本工作的贡献总结如下:
  • 受神经科学发现的启发,包括振荡和抑制机制、近端树突结构和STDP学习规则,我们提出了一种新的记忆编码算法,可以有效将刺激转换为稀疏小柱的时空脉冲模式。
  • 我们提出了一种新的记忆存储算法,遵循延迟机制、小柱的结构和树突计算,可以有效地存储短期上下文和长期序列信息。
  • 基于上述两种算法,我们提出了一种新的记忆模型,系统地整合了多尺度的生物机制,用于模拟记忆的整个编码、存储和检索过程。实验结果表明,所提出模型的检索准确性和鲁棒性显著优于其他序列模型。特别是在替换更多单词(10个中的6个)的情况下,我们的算法仍保持了80.7%的准确率,比其他算法高出40%。
  • 相关工作

    相关工作

    目前,序列记忆方法主要有两类:基于机器学习的模型和类脑模型。

    BSSM网络组织

    在本节中,我们将详细讨论所提出模型的网络,包括皮层中的小柱和锥体神经元的模拟,以及使用的振荡机制。

    BSSM的序列记忆过程

    情景记忆通常分为三个阶段:编码、存储和检索。在编码阶段,每个项目的输入通过STDP学习方法、神经元振荡和中间神经元之间的柱间抑制被编码到Na个稀疏活跃的小柱中。在存储阶段,上下文(项目之间的关系)存储在皮层神经元的远端树突中,序列信息存储在输出神经元的近端树突中。在检索阶段,使用检索

    实验

    在本节中,通过实验验证了所提出的BSSM方法的检索准确性、鲁棒性、记忆容量和参数影响。与序列记忆算法相比,所提出的BSSM的检索准确性和鲁棒性显著优于它们。所提出的BSSM模型的默认参数在表1中给出,M, N, Na, NI, Conmax是根据参考文献Cui等人(2016年);Hawkins等人(2011年);Starzyk, Maciura, & Horzyk(2019b年);Zhang

    讨论与结论

    本文提出了仿生脉冲序列记忆(BSSM)模型,这是一个符合生物学原理的框架,整合了几项关键的神经科学原则:小柱作为功能单元,树突分离(近端与远端)用于不同的记忆组分,θ-γ振荡用于相位编码和记忆分期,以及中间神经元介导的抑制用于稀疏、竞争性激活。该模型提供了皮层-海马回路如何协作的功能计算解释

    作者声明

    张云:概念化、方法论、软件、撰写-原始草稿准备。蒲新林:数据整理、撰写-原始草稿准备。罗晓玲:撰写-审阅和编辑。李萍:撰写-审阅和编辑。曲红:监督。

    ORCID信息

    ORCID信息
    1. 张云
    ORCID iD: 0009-0001-0273-7255
    2. 蒲新林
    ORCID iD: 0009-0006-2156-1378
    3. 罗晓玲
    ORCID iD: 0000-0003-4862-945X
    4. 李萍
    ORCID iD: 0000-0002-8391-6510
    5. 曲红
    ORCID iD: 0000-0001-6114-3441

    利益冲突声明

    作者声明他们没有已知的竞争性财务利益或个人关系可能影响本文报告的工作。
    相关新闻
    生物通微信公众号
    微信
    新浪微博
    • 搜索
    • 国际
    • 国内
    • 人物
    • 产业
    • 热点
    • 科普

    热点排行

      今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

      版权所有 生物通

      Copyright© eBiotrade.com, All Rights Reserved

      联系信箱:

      粤ICP备09063491号