局部平衡抑制机制：解决前馈网络中赫布可塑性诱导的输入输出关联学习僵化问题

《Journal of Computational Neuroscience》：Locally balanced inhibition allows for robust learning of input-output associations in feedforward networks with Hebbian plasticity

局部平衡抑制允许前馈网络在学习输入输出关联时，抵御由内在连接性导致的输出模式“冻结”，从而恢复网络的灵活性和记忆能力。这种机制为理解大脑皮层回路如何在学习中维持稳定与适应性的平衡提供了新的视角。

　　

2.1 赫布可塑性网络中的联想学习与干扰动力学

赫布可塑性允许前馈神经网络将输入模式与特定的输出模式关联起来。其工作机制是修改连接矩阵C的突触权重：若突触存在（C_ij^t=1）且前后神经元都激活，则突触以概率p被增强；若突触存在但前后神经元激活状态不同（一个激活一个失活），则突触以概率p被削弱。随着网络持续学习新的、不相关的关联，先前形成的突触结构会被逐步覆盖，这表现为连接矩阵C^t与初始状态C⁰的相关性逐渐衰减。然而，突触矩阵始终与最新存储的模式保持高度相关。当网络被新的学习输入（同样不相关）探针测试时，产生的读出信号z^t是彼此不同的，确保了可靠的记忆存储。但随着更多模式的编码，初始学习输入对应的输出模式会逐渐改变，其自相关性呈指数衰减，最终趋近于零，表明回忆保真度完全丧失。这揭示了赫布网络在持续学习中联想记忆的固有限制——学习新信息与保留旧记忆之间的权衡。

2.2 赫布学习的输入驱动框架

为了研究联想在实际神经元回路中如何形成，研究引入了更贴近生物现实的“输入驱动框架”。模型的输出y^t由目标输入C^t-1x^t和其他输入（如其他脑区投射）的总和决定。其他输入可以近似为可调节强度σ的高斯噪声ξ。这种参数化设计在两个极端状态之间连续变化：（i）当输出几乎完全由目标通路驱动时（σ接近0），输入输出强相关；（ii）当其他输入影响可忽略时（σ很大），输入输出相关性趋近于0。研究发现，当输出与突触输入强度存在较强相关性时（即σ值较小时），网络会进入病态动态：连续的读出模式z^t变得高度相似。在极端情况下（σ=0），所有读出变得完全相同，导致网络响应“冻结”，完全丧失学习灵活性。相反，当σ值足够大时，输出不再系统性地受突触输入结构偏倚，从而恢复到经典赫布范式假设的条件，网络能够进行稳健的联想学习。这些结果表明，输出-输入相关性在塑造前馈网络的长期可塑性中扮演关键角色，而额外的输入有助于维持学习灵活性。

2.3 输出与突触输入强度的相关性损害联想学习

本节系统定量地研究了不同σ值（即不同强度的额外输入噪声）对网络学习动态的影响。评估指标是连续读出的相关性corr(z^t, z^t+1)。当σ=0时（输出完全由目标输入决定），无论其他网络参数（激活稀疏度f或突触可塑性概率p）如何，连续读出的相关性都会收敛于1，网络陷入完全僵化状态，所有输入引发相同的输出。这种收敛遵循幂律轨迹。增加噪声幅度σ可以防止网络进入完全冻结状态，使连续读出的相关性单调下降。然而，为了完全消除网络的内在偏倚，所需噪声必须强到几乎完全覆盖目标输入的影响，这意味着要避免网络僵化，必须将输出推向接近随机模式，这本质上回到了输出被外部强加的经典赫布学习场景。

2.4 高输出-输入相关性导致网络冻结的机制

为了理解强输出-输入相关性下网络僵化动态的出现，文章剖析了其内在正反馈循环机制。当输出主要由兴奋性输入驱动时，入度高的神经元会持续被选为激活状态，而入度低的神经元则持续失活。这种激活模式的偏倚通过赫布更新规则被放大：激活的突触被增强，失活的突触被削弱。这就形成了一个极化过程：神经元群体逐渐分化为“高入度-高活性”和“低入度-低活性”两个阵营。随着时间推移，突触矩阵的行和变得日益分离，导致网络对任何新输入都产生几乎完全相同的输出。这种渐进式的分离最终使网络陷入冻结状态，丧失了编码多样模式的能力。

2.5 局部平衡抑制抵消输入驱动的僵化

为解决输出僵化问题，研究引入了受皮层回路启发的“局部平衡抑制”机制。其核心是，每个神经元接收的抑制性输入与其自身的兴奋性入度成比例。具体地，输出y^t的计算变为：y_i^t= (1/N) Σ_jC_ij^t-1x_j^t- (γ/N) Σ_jC_ij^t-1，其中γ是抑制常数。这种神经元特异性的反馈机制有效地抵消了高入度带来的竞争优势，防止了输出值在重复学习过程中的分离。研究发现，只有将抑制常数γ调整到与细胞激活比例f相等时（即γ=f），网络才能恢复完全灵活性，此时连续读出的相关性为零。当γ < f时，抑制反馈不足以平衡突触驱动，系统最终仍会陷入僵化状态；当γ > f时，则会导致相关性的振荡。理论分析表明，当γ=f时，输出y^t的平均值为零，消除了由平均入度异质性引起的变异性，使得强/弱突触不会被持续地进一步强化/弱化。对连接矩阵的特征值分析也证实，只有当γ=f时，最大的异常特征值消失，网络统计特性与经典赫布过程一致。重要的是，这一机制在更普遍的场景（存在额外输入噪声σ）中同样有效，对于任何σ值，只要设置γ=f，都能将连续读出的相关性降至零，从而恢复网络灵活性。

2.6 局部平衡抑制增强记忆强度

研究进一步探讨了引入局部平衡抑制（设置γ=f）是否能恢复网络的有效记忆容量。通过初始化后持续用同一输入x⁰探测网络，测量输出自相关性corr(z₀^t, z₀⁰)的衰减速度。结果显示，与经典框架（CF）相比，采用局部平衡抑制（BI）的网络，其记忆相关性衰减得更慢。这表明BI不仅保留了网络表征的多样性，还延长了记忆的稳定期。对记忆强度的量化分析（定义为自相关性曲线下，均值与标准差之间区域的面积）表明，BI显著提高了记忆强度，且这种提升随着系统规模（神经元数量N）的增加而以对数形式增长，其增速快于经典框架。总之，局部平衡抑制不仅能防止网络僵化，还能提升网络的记忆保持能力。

3 讨论与结论

本研究探索了具有随机突触的赫布异联想网络。研究表明，持续学习会导致突触结构的干扰和更替，进而引起驱动输出模式相关性的衰减。当突触后输出主要由目标输入通路驱动时，网络会进入输出高度相关的病理性“冻结”状态。虽然增加额外输入可以削弱这种相关性，但目标通路仍会引入输出-输入相关性，从而损害网络性能。为消除这种相关性，本文提出了局部平衡抑制机制。当抑制增益与网络活动水平相匹配时，这种机制能重新中心化突触后驱动，消除对反复招募同一批高连接神经元的偏倚，从而使连续读出去相关，恢复系统灵活性。此外，在此平衡状态下，网络记忆强度明显增强。这项工作通过明确地将目标输入驱动与额外输入混合并改变其相对强度，在“强加输出”和“生物启发的输入驱动”这两种范式间架起了桥梁。局部平衡抑制作为一种简单的回路级修正机制脱颖而出，它保留了输入驱动读出的优势，同时避免了僵化。研究结果与理论和体内证据支持的兴奋/抑制紧密平衡观点一致，并为“表征漂移”现象（即神经编码在行为稳定情况下逐渐重构）提供了一个回路层面的解释：平衡的兴奋/抑制抑制了相关性驱动的正反馈，保持了读出的多样性，并扩展了代码演变时行为保持稳定的动态范围。总而言之，通过引入局部平衡抑制机制，我们展示了一种简单而强大的解决方案，它能恢复灵活性并保持记忆容量，强调了抑制性调节在维持神经学习系统稳定性与适应性平衡中的重要性。