文献信息
- 标题 : Attractor and integrator networks in the brain
- 期刊 : nature reviews neuroscience
- 作者 : Mikail Khona & Ila R. Fiete
- DOI : 10.1038/s41583-022-00642-0
- 类型： 综述
主要内容
- 描述并评估了一个假设，中枢神经系统广泛区域中的吸引子动力学在构建某些表示、生成长时间尺度以支持整合和记忆功能，并赋予所有这些功能鲁棒性。
- 回顾了基于吸引子模型的具体预测，以及目前测试这些预测的大量工作。说明了大脑中吸引子动力学计算的理论和验证是系统神经科学中最成功的故事之一。
第一批形式化的回路级 ( circuit-level ) 模型集中在联想记忆 ( associative memory ) 问题上
概念介绍
- 吸引子
吸引子（Attractor）是微积分和系统科学论中的一个概念。一个系统有朝某个稳态发展的趋势，这个稳态就叫做吸引子。
一个动态系统是一组变量以及决定它们随时间变化的所有规则，在给定时刻这些变量被称为该时刻系统的状态。状态表现在系统状态空间上是一个点，吸引子是状态空间中的最小状态集，所有附近的状态最终随时间收敛到吸引子。
- 吸引子分为平庸吸引子（trivial attractor）和奇异吸引子(或者叫 non-trivial attractor)。
- 平庸吸引子有不动点（平衡）、极限环（周期运动）和整数维环面（概周期运动）三种模式。
- 不属于平庸吸引子的都称为奇异吸引子，它表现了混沌系统中非周期性，无序的系统状态，例如天气系统。
- 吸引子以各种形式存在，如果一组吸引子状态在状态空间中描绘出近似连续且局部欧式的形状，则称为吸引子流形。非线性连续吸引子流形可以是弯曲和拓扑复杂的 （如下图c、d最右）。
- 吸引子上的状态可能是静止的，也可能沿着吸引子周期性流动（极限环（下图f最右）），或者是混沌的轨迹。
- 离散吸引子
- 连续吸引子
- 非稳态连续吸引子 | 混沌吸引子 ：具有非线性神经元和强连通性的大型非对称网络一般表现出极限环吸引子或混沌的动力学，混沌吸引子一般出现在具有强非对称权重的大型递归网络中。
- 吸引子分为平庸吸引子（trivial attractor）和奇异吸引子(或者叫 non-trivial attractor)。
左侧图像表示神经元、神经元间连接，灰圈表示神经元，圆头线兴奋性连接，横条线抑制性连接，小矩形显示的是连接矩阵，黑到白表示抑制到兴奋；中间图像则是取某一稳定状态的细胞活动示例；右侧展示在状态空间的轨迹，红色是吸引子，蓝环和中间的示例一一对应。
a :d :形成多个周期间隔活动的突起
动态神经系统的简化描述
- 描述神经环路动力学的第一个简化假设是，至少在研究感兴趣的时间尺度上系统以自主的方式演化。但实际上大脑中各种相连的子环路，使这些环路不可能完全分割成自主系统。
- 第二个简化是定义系统的状态。大脑环路级系统状态随时间变化可能取决于所有神经元的所有发放模式、相关离子和递质水平、离子通道状态等。在以秒为单位的时间尺度下，广泛使用的简化方案是仅使用环路中神经元发放输出作为状态，进一步简化为随时间变化的发放率。在这种较短的时间尺度下，神经元之间的权重和连接可以看作参数，长时间尺度则是变量。 | 简化后描述的脊椎动物环路的状态空间仍是非常高维的（$10^2 - 10^7$ 细胞）
吸引子的神经计算 虽然吸引子动力学可能是刚性的，最近的理论和实验结果开始揭示如何通过跨任务的重用和重组这些刚性结构来执行灵活的计算。 吸引子网络可以表现出两种记忆：
- 权重的结构，指定所有吸引子的集合。如果这些权重是通过输入驱动的学习过程决定的，那这是一种关于输入的长期记忆。
- 在稳态吸引子状态下保持持续活动的能力，这种持续活动响应是初始化输入的一种短期记忆形式。如果这些持久状态可以在只使用 content 而没有显式地址的情况下激活，则是可内容寻址的（content-addressable）。
?
其中吸引子的短期记忆依赖于长期可塑性预先形成的稳定态，不能解释完全新颖输入的短期记忆。
a :由吸引子网络（红）产生的持久稳定状态可以建立适当的映射来表示和记忆外部变量（蓝）。b :噪声状态映射到最近的吸引子状态用来矫正误差，在高维几何中球更像煎饼，大维度与吸引子网络正交，$N$ 维噪声单位球投影到以一维吸引子的强度仅为 $1/N$c:蓝点表示特定的输入数据点，两个吸引子可以表示不同类（比如猫|狗）的感知流形。最近邻分类即输入数据流到最近吸引子。d:如果外部状态空间的速度或者运动作为网络输入，并在内部吸引子上引起比例位移，则连续吸引子可以积分。右侧蓝条表示输入脉冲，会使系统当前状态在吸引子上移动。e:组合积分和决策网络的能量分布示意f:通过前馈学习，将积分的速度变化和不同的外部线性速度线索关联，使其能快速重定位以表示多个或新的外部变量。?g:一组吸引子网络可以和共享网络进行双向交互h:混合模块表示可以通过重用每个固定维数的相同吸引子来表示不同维数的输入
真实系统中吸引子的核心特征可以概括为：系统状态到低维子集的局部化；扰动后状态向子集流动；以及该子集中状态的长时自主稳定性。
神经环路中形成非平庸吸引子一般原则上是强递归正反馈。
