2022年5月,南开大学生命科学学院张涛教授团队于《International Journal of Neural Systems》在线发表了题为“A Feed-Forward Neural Network for Increasing the Hopfield-Network Storage Capacity”的研究论文,首次报道了基于小鼠海马DG区解剖结构和神经振荡分析而提出的一种多层神经网络。该网络可通过赫布学习(Hebbian learning)增加其输入模式的稀疏性,降低模式间的相似性,并以此增加Hopfield网络的存储能力。本研究的独立一作为南开大学生命科学学院博士研究生赵少楷。此项研究得到了英国伦敦大学皇家霍洛威学院计算机系教授骆志远博士的协助。
模式分离(Pattern separation)被计算神经科学领域认为是哺乳动物海马体DG区的主要功能,也是情景记忆形成的关键阶段。了解模式分离的生物学机制对启发新的类脑智能人工神经网络具有实际价值。目前,通常采用Hopfield网络模拟海马体情景记忆的存储和检索过程。然而,Hopfield网络中存在的串扰现象(Crosstalk)极大程度上减弱了网络的存储能力。从计算神经科学的视角观看,该问题出现的原因是Hopfield网络主要模拟了海马CA3区的模式完成(Pattern completion),不具备DG区模式分离的能力。围绕该问题,已有部分研究探讨了DG区实现模式分离的计算机制,指明了对模式分离具有重要作用的神经元类型,构建了涉及多种类型神经元及神经元投射的模式分离模型库,极大的促进了DG区计算模型的发展。然而,多数模型研究通常不考虑突触学习在模式分离中的贡献。这使得,迫切需要一种具有自适应学习能力且具有较高生物合理性的DG区模式分离模型。
图1:模式分离水平与海马DG区神经振荡活动模式密切相关
本项研究首先采用8周龄的C57BL小鼠构建了丰富环境模型以提升小鼠的模式分离水平。对象模式分离(Object Pattern Separation,OPS)和Morris水迷宫被用于验证EE组小鼠模式分离水平的提升。进一步,作者调查了EE小鼠神经振荡机制的变化。结果表明,EE小鼠模式分离的增强伴随着DG区局部场电位theta和gamma节律活动的同时增强和gamma节律向theta节律的信息流。考虑到DG区中,theta与gamma节律分别与fEPSC和fIPSC存在强相关性。作者认为,模式分离水平的增强需要抑制性神经元对兴奋性神经元活动进行调节。
图2: 海马DG区神经振荡分析启发的人工神经网络结构与算法流程
作者根据DG区解剖学和神经元形态学的最新进展,构建了仿海马DG区计算模型(Dentate Gyrus Computational Model,DGCM)。该网络的结构模拟了DG区颗粒细胞(GCs)、苔藓细胞(MCs)和中间神经元(INs)的投射路径。在赫布学习的基础上,根据神经振荡的启发设计了新的算法。作者稍后验证了DGCM对Hopfield网络存储容量的提升效能。结果表明,在标准Hopfield模型的存储容量为0.13N的基线水平下,采用模式分离模型可将其存储容量提升至0.32N。且比在此之前的国外同类型最先进研究水平(0.18N)提升了将近1倍。
论文链接:https://www.worldscientific.com/doi/10.1142/S0129065722500277