McCulloch-Pitts(MP)神经元最初作为简单的神经元放电模型提出(Mcculloch和Pitts,1943年)。一个特定的MP神经元接收来自其他MP神经元以及外部控制或随机环境噪声的输入,然后对这些输入进行加权求和操作,接着进行阈值处理,最后将输出传播到网络中的其他神经元。当特定联合作用的细节未知时,加性贡献是最常用的功能形式。例如,在复杂疾病遗传学研究中使用的多基因风险评分(Purcell等人,2009年),该评分早于RA Fisher的多基因模型(Fisher,1918年,Visscher和Goddard,2019年)。我们现在认识到,尽管单个MP神经元可能只是一个带有阈值的简单积分器,但合作的MP神经元网络可能会产生复杂的、意想不到的行为。本研究的目的是广泛探索仅由两个节点组成的网络中最小的复杂程度,并展示即使这种小型网络也可能导致非平凡的动态模式,从而对更大网络中的动态行为有所预见。
在网络中整合来自神经元的贡献时,阈值函数是处理饱和的有效方式(Goutelle等人,2008年)。它通常是极其非线性的,尽管也可以是分段线性的。可以从数据中学习到其他更复杂的非线性函数/映射(Otwinowski等人,2018年),但阈值函数是最简单的。使用McCulloch-Pitts门将信号从一层节点传播到另一层节点的网络也被称为感知器(Minsky和Papert,1969年),或阈值逻辑单元网络(Weaver,1975年),阈值元素网络(Amari,1971年),以及阈值网络(Goles-Chacc等人,1985年)。加权和与非线性滤波函数(逻辑函数)的组合在统计中也是一种常见的形式,例如在逻辑回归中(Mccullagh和Nelder,1989年)。
为了进一步简化两节点系统,在本研究中,节点的状态变量被限制为布尔值或二值。阈值函数非常适合将加权输出限制为布尔类型。关于两个单元之间的相互作用,只有两种操作模式:一个节点到另一个节点的有向链接(无返回箭头,即主从关系或单向),以及两个节点都有指向另一个节点的有向链接(互斥交互或双向)。图1(A)展示了主从关系和互斥交互的示意图。
当使用特定的MP函数时,很明显,主从关系和互斥交互的分类是不够的。一个节点到另一个节点的有向链接可以是正的(兴奋性的)或负的(抑制性的),也可以是零(不存在的)。在生态学领域,长期以来已知两种物种之间存在五种相互作用类型:共栖(正的主从关系)、负相关(负的主从关系)、共生(两个正链接)(Boucher等人,1982年,Fath,2007年,Henderson,1996年)、竞争(两个负链接)和捕食-被捕食(一个正链接和一个负链接)(Wangersky,1978年)(参见Odum,1953年的第7章,Williamson,1972年的第9章,May,1973年的第2章)。我们避免使用“共生”这一术语,因为它可能因作者不同而有不同的定义(Martin和Schwab,2013年)。这五种生态互动类型在图1(B)中给出。
这五种生态互动类型不包括同种内的活动。Allee效应描述了种群规模(在一定程度上)与种群适应性之间的正相关(Allee,1931年)。自催化化学反应被提出作为生命起源的机制(Eigen和Schuster,1977年)。一个基因可能在转录过程中受到其自身基因产物的调控。所有这些都会意味着从一个节点到自身的链接,无论是正的还是负的。包含自环将使两节点网络的数量从5增加到39(见表1和表2)。
为了尽可能简化两节点系统,除了将节点数量限制为两个节点并将网络状态变量限制为两个可能的值外,我们还将链接强度限制为三个可能的值(正一、负一和零),并将阈值限制为零(或接近零)。因为两个节点之间有四种可能的链接,包括它们之间的链接,每种链接都有三个可能的值,所以总共有种两节点MP网络模型。81种模型与39种模型之间的差异在于,其中一些模型实际上是互斥的单节点模型(见补充材料,项目1)。通过交换两个节点,一些模型彼此等价。图2绘制了扩展后的39-5=34个等效模型的图。这些具有定义(正或负)参数值的图在本文中被称为“有符号调节图(或结构)”。
这81个MP模型,也称为McCulloch-Pitts网络(MPN),构成了一个(展开的)“规则空间”(有关不同空间的讨论,请参见补充材料,项目2),而将等效模型合并为一个则形成了一个“折叠的”规则空间。根据我们与其他规则空间的经验,例如元胞自动机(Wolfram,1984年,Wolfram,2018年)规则空间(Li和Packard,1990年,Li等人,1990年),非局部元胞自动机规则空间(Li,1992年),两基因位点疾病模型空间(Li和Reich,2000年),以及两人游戏空间(Marris等人,2023年,Rapoport和Guyer,1966年),使用展开空间更为自然。
研究这些最小MPN有两个主要目标。首先是探讨有符号调节图与动态之间的可能联系。Rene Thomas提出了反馈电路中的两种基本模式(Thieffry和Kaufman,1928年,Thomas,1978年,Thomas,1981年,Thomas和Ari,1990年,Thomas和Kaufman,2001年,Thomas和Richelle,1988年):如果存在一条整体为负的路径(路径上符号的乘积为负),则动态更可能是循环的;如果存在一个整体为正的循环,则可能存在多种不稳定的极限动态。但在将他的逻辑结构与基于MP模型的有符号调节结构等同起来时需要谨慎。
为此,我们注意到两节点的状态值可以是,称为“双极的”,或者是(0,1),称为“二元的”。使用双极值的模型和使用二进制值的模型不等价,因为它们之间的转换会导致非零的阈值。此外,确切阈值点的映射并未明确指定(Snoussi和Thomas,1993年),从两个可能值中选择一个输出类似于稍微增加或减少阈值。这些导致了MPN模型的许多变体,即使模型的调节图是相同的。不同的变体将在“模型和方法”部分详细介绍。我们将展示动态不仅可能取决于调节结构,还取决于变体。
第二个目标与最小模型扰动下的动态稳定性有关。我们研究了三种稳定性:(a) 规则对模型参数变化的极限动态;(b) 规则对模型参数变化的极限状态;以及(c) 规则对初始状态变化的极限状态。在模型空间中,我们预计存在规则行为相似的区域,而这些区域之间的边界很复杂,类似于“混沌边缘”(Langton,1990年,Packard等人,1988年)。由于只有四种状态(见补充材料,项目2关于状态空间),因此不会出现混沌动态,而只会出现具有最大循环长度的循环动态。因此,我们的目标是找到简单固定点和高循环之间的边界。
本文的结构如下:“模型和方法”部分介绍了此处研究的MPN模型的映射和符号(第2.1节)。然后在第2.2节中,根据状态变量是双极的还是二元的,以及阈值线的选择,介绍了每个模型的六种变体。第2.3节介绍了我们用来确定极限动态的方法——谱方法,以及不同类型动态行为的简写符号。第2.4节涵盖了使用的程序。
结果部分包含4个小节:第3.1节展示了不同变体的动态;第3.2节试图探讨极限动态是否与模型的调节图有关。第3.3节讨论了模型极限动态对链接参数扰动的稳定性,以第一个变体(V1)为例;第3.4节讨论了极限吸引子对链接参数扰动的稳定性,以及对初始状态扰动的稳定性,以第四个变体(V4)为例。
讨论部分简要介绍了MPN与Hopfield、Kauffman和Wagner网络之间的关系;MPN与递归神经网络之间的潜在关系;异步更新;允许在阈值线上映射第三个值,这可以通过用连续的Sigmoid函数替换符号/阶跃不连续函数来实现;本文未涉及的MPN中的一些情况;以及可能的未来工作。