脑科学 CCAI2018演讲实录 | 蒲慕明：脑科学与类脑机器学习

7月28日至29日，由中国人工智能学会和深圳市罗湖区人民政府联合主办的“2018中国人工智能大会”圆满落幕。

会议第二天下午，中国科学院神经科学研究所所长、中国科学院院士、美国国家科学院院士蒲慕明发表了题为《脑科学与类脑机器学习》的主旨演讲。

以下是根据速记组织的讲座记录。

中国科学院神经科学研究所所长、中国科学院院士、美国国家科学院院士蒲慕明

皮层的作用

在现代神经生物学和脑科学中，最大的进步是在19世纪中后期，法国医生和科学家布罗卡通过解剖失语症患者发现了布罗卡区。他是第一个定位大脑功能的科学家。从他开始，脑科学家逐渐意识到不同的大脑区域负责不同的功能。同时，大脑各区域之间有高度的联系，尤其是横向联系。高水平连接在处理多感官信息整合方面具有优势。这正是人工智能做多模态集成需要解决的问题。

20世纪脑科学的进展如何？

20世纪脑科学的发展主要在于对神经元如何编码、存储和提取神经信息有了清晰的认识。从20世纪初到21世纪初，与神经科学相关的诺贝尔奖获得者一直致力于神经元如何编码、存储和提取信息的研究，而且都是在细胞层面而不是网络层面进行研究。

神经细胞有局部环路和长程环路。一个功能的出现，必然要求神经元回路中的神经元在适当的时间放电。脑网络是如何产生感知、情绪、思维、选择、语言等更高级的大脑认知功能的？对此我们的理解非常肤浅。

现在说到脑科学的发展，一个比喻相当于19世纪末20世纪初的物理化学状态。在新的理论和关键技术还没有出现的时候，这就是脑科学的现状。我们不应该对脑科学期望过高。

脑科学与类脑智能研究的关系

历史上出现过三次人工智能浪潮，每次被推上来都是受到神经科学的启发。例如，麦卡洛克和皮茨在1943年提出了MP神经元模型，在80年代提出了霍普菲尔德算法和BP算法。最近，深度网络学习包括多个层次，每个层次都有不同的功能，这也是受到视觉系统的启发。

要了解大脑，需要从三个层面来分析

首先是宏观层面。磁共振成像可以获得神经束的大致方向，但只知道神经束的方向对理解脑功能没有太大贡献。我们需要进一步理解大脑必须达到神经元水平。第二是介观层次，在空之间的分辨率要达到微米。用特殊的方法标记不同种类的神经元，了解不同神经元的功能。介观神经连接图是目前神经科学的主要方向。三是微观层面，从微米到纳米级。在微观水平上研究神经元轴突和树突的分布以及突触生成的规律，可以获得大量有用的信息。

突触传递过程非常复杂

所有的神经元都是通过电信号传递信息的，但是无线电波不能直接传递到下一个细胞。突触前信号引起化学物质的释放，由于释放的化学物质不同，可以引起突触后细胞电信号反应的激活或抑制。这大大提高了神经网络处理信息的能力。

解读整个神经网络的难点

第一个难点是，每一个大脑功能都涉及到大量的神经元簇，数百万个神经元是由简单的视觉输入激活的。我们非常缺乏无干扰技术来观察神经元集群的活动。美国大脑计划主要是开发新的大脑研究技术，主要是可以分析大量神经元动态信息的观察技术和大数据分析方法。大数据分析不是盲目分析。我们需要理论指导，用数据来检验这个理论的准确性。

突触可塑性与Hebb假说

可塑性是大脑认知功能的基础。可塑性使脑网络形成新的状态，会导致新的行为。大脑是不断变化的，每一次活动都会引起功能和结构的变化。Hebb认为，同步电活动可以使突触加强或稳定。如果两个神经元同时释放，它们之间的突触联系就会加强；如果不同步，突触前后的连接就会减弱。

可塑性是中国科学家冯德培首先发现的。在英国获得博士学位回国后，冯德培在协和大学生理学系建立了一个实验室，研究神经肌肉接头的功能。1946年，他的系列论文中有26篇文章报道了一个现象:神经肌肉接头处的突触可以被高频刺激，引起突触后肌肉电活动增强，持续十分钟。

突触的效率因电活动而改变。经过几秒钟的高频刺激，结果就是突触增强十几分钟，这叫可塑性。冯德培在1941年发现的这一现象获得了诺贝尔奖，但冯德培先生在20世纪90年代去世了。直到20世纪70年代，人们在中枢神经系统中发现了类似的现象，称为长时程增强和长时衰减。电活动后，在脑网络中留下一个长期的痕迹，即记忆，储存在神经传递效率的变化上。

突触可塑性不仅改变突触效率，也改变突触结构。为什么轴突不直接向树突发送信息，而是向树突棘发送信息？原因一直不知道。张湘彤在耶鲁大学当教授的时候提出了一个假说:树突棘可以作为调节突触传递效率的结构。现在，人们认识到树突棘可以作为调节突触重量的结构。

Hebb细胞群假说

赫伯认为，改变连接强度是为了存储内存——内存存储在网络中，而不是单独的位置；通过重新激活存储记忆的细胞群，电活动重新出现，记忆将被提取。比如我们小时候外婆的脸不断激活我们的细胞，眼睛、嘴巴、鼻子等等都具体激活了一组细胞，外婆的脸一出现整个大细胞团集体放电。通过这个超级Herb细胞群，我们长大后，只要看到外婆的眼睛，就会激活一些细胞群，可以唤起对外婆面容的记忆。

赫伯的细胞集群假说可以进一步补充。奶奶是一个概念，包括她的脸，声音，唱歌，名字。我看到所有这些特征，其中任何一个都可以被整个祖母的所有特征的反映所取代。这个概念是一个超级超级细胞群。她唱的歌可能储存在听觉区，她的脸储存在视觉区，她的味觉储存在嗅觉区。这些信息会在和外婆有关的事情出现时同步激活。这是多脑区的一种同步放电活动，是超级超级Herb细胞群的一种放电。

大脑认知的关键是信息绑定的问题。

如何整合各种信息产生一个整体？多年来流行的假说是聚集假说:每个成分的成分都在放电，都是通过轴突输入到另一个神经元，这个神经元同时接收每个成分的神经元信号，并整合这个信息。

人们首先在视觉皮层发现证据。视觉皮层或视网膜上能引起神经元活动的区域称为视觉感受野。从丘脑内细胞的点感受野到视皮层，整合成一条线。点到线的集成是一种信息绑定。但也有其他可能，比如同步放电模型:各种组合成分的神经元在某种信息出现后一起放电，同步电活动本身就代表整合信息。

脑网络形成的过程

在发育过程中，一个月大的婴儿没有任何网络，在2-3岁之间产生许多树突和轴突，从而形成一个非常复杂的网络。这是一个非常令人惊讶的现象，说明神经元的基本结构是由基因决定的，但网络是在出生后建立的，各种学习和经验在出生后发挥作用。早期修剪过程非常重要。过早修剪可能是自闭症，过早修剪可能是精神分裂症。因此，网络的修剪是正常网络形成的必要环节，修剪不好会导致疾病。

突触是记忆的储存场所

储存突触记忆的方法有两种:一种是改变突触权重；另一种是突触连接结构的修饰——新连接的形成和现有连接的改变。大脑在发育和成年期具有不同的可塑性，神经结构在发育过程中被大幅修剪，使得新的突触产生，经验是导致网络修剪的主要因素；成熟的大脑神经网络只有有限的可塑性，这是经验和记忆增加原有突触效率所必需的。每个人的网络不一样，每个人的性格也不一样。这是因为我们每个人都有不同的经历，所以我们处理信息的方式也不同。这是成熟网络的表现。

赫伯学习法则的新转折点

Herb认为同时放电的神经元是连接在一起的，异步放电的神经元是通过网络连接的。但20年前，出现了一个新的转折点——加强或削弱不仅是同步的，而且是顺序的。突触前放电先于突触后放电，突触依次增强和减弱。这种带有时序信息的现象被称为时序信息依赖的可塑性。STDP被用于人工网络。

我们可以玩一个简单的游戏，依次播放贝多芬的《致爱丽丝》。大家都会认，反过来玩就没人认了。这是因为内存是顺序的。

可塑性对人工智能的发展做出了重要贡献

在霍普菲尔德人工神经网络中，每个突触点都被赋予一定的权重，所有的输入都由单位相加。每个突触的权重可以通过Herb的学习规则来调整。BP算法可以用来学习说话。弗朗西克对此评价很高。在《关于神经网络的最近例外》一文中，他认为BP算法很神奇，但他也指出大脑中似乎没有这样的机制，是轴突信息发送到树突的单向过程，没有反馈信息。几年后，我们记录了多个神经元来验证这个说法是否成立。

我们发现突触前神经元有反向传播和侧向传播，而突触后只有侧向传播，没有正向传播。轴突终末产生的LTP可以传回到突触前神经元，但突触后不能向前传递。这种现象被称为自然血压。现在自动化所，我们把自然BP应用到人工神经网络中，希望能对无监督或者半监督学习有所帮助。

最后，做一些总结

1.可以借鉴的自然神经网络的特点

神经元的类型

兴奋性和抑制性神经元活动之间的平衡是正常网络功能所必需的。

①突触延迟在神经回路中起关键作用。

②抑制性中间神经元通常出现在兴奋性输入后，可以防止神经元过度兴奋，消除尖峰四肽的尾部，提高信息的时间精度，通过抑制侧面神经元的兴奋性，增加比较信息的空空间精度。

.多向神经连接

连接的方向不止一个，大部分连接都是正向的，反向的，侧向的。而且兴奋性和抑制性神经元有多向联系，有空和神经元类型特异性联系。

突触的可塑性

①突触功能具有可塑性:增强和减弱传递效率；它可以依赖于突触前后神经元同步电活动的频率，也可以依赖于突触前后神经元的电活动时序。

②突触结构可塑性:包括树突棘的形态变化，突触的形成和修剪。

③突触可塑性的传递；LTP和LTD的有序传播:包括反向传播，突触效率可以减弱或增强，侧向传播在突触前后选择性传播。

记忆的储存、提取和消退

理解记忆不仅要着眼于储存，更要着眼于记忆消退，记忆消退可能比储存更重要。

①记忆储存:网络中特定突触的效率和结构修饰。

②记忆遗忘:突触功能和结构修饰会随着时间的推移而消退。

③将短时记忆转化为长时记忆:规律重复的重要性。

④记忆提取:电活动在储存记忆的突触群中重新出现。

⑤强化学习:根据输出结果对学习相关突触群进行修改，调整神经元在修改中的作用。

草药神经元群概念的应用

①嵌套聚类用于形成多成分、多模态信息。

②不同模式的信息在网络的不同区域处理时，可以通过横向连接进行交互。

③同步或差异电活动可用于结合不同区域的神经丛。

④输入信息的拓扑结构在传输过程中保持在不同的层次。

2.关于人工神经网络/机器学习的建议

第一，摆脱深度学习网络的诱惑。

二是建立全新的人工网络架构和算法，以高效、节能、无监督或半监督学习为目标。

第三，在脉冲神经网络的基础上，增加了传递延迟。每个突触传递都有一个时间延迟，这是许多网络中信息处理的关键。

第四，在简单网络的基础上，每次加入一个自然神经网络的特征，检验其有效性，然后逐步完善。