人工智能有没有可能将来是灾难性的？

大会上，中国科学院院士、浙江大学医药学部主任段树民在《脑与脑机融合》主题演讲时表示，大脑是自然界最奇妙的产物，也是最复杂的产物。科学家有过共识，曾经在《科学》杂志成立125周年时做过调查，25个没有解决的最重要的科学问题，第二个就是意识的神经生物学基础，第一个是宇宙是怎么产生的。

在谈到人工智能对人类的冲击时，段树民说其有正面和有负面。负面的，以霍金为代表的，他的担忧也可能是很多人比较认可的，就是人工智能有没有可能将来是灾难性的，我们人类控制不了它了。当然也有乐观派，例如非常有理想的马斯克，他现在也非常关心人的大脑如何能好好利用人工智能，叫脑机融合、脑机接口。他已经做了一些技术上的突破。按照他的想法，最理想的状态是，将来人的大脑可以很好的控制外界，不管人工智能多发达，外部机器多发达，人的大脑都可以很有效的控制它。如果要做到这一步，最基本的一个问题就是你要精细解析大脑的信号，知道大脑是如何运作的。

段树民说，马斯克这一看似疯狂的想法并不是完全没有可能性的。将来随着技术手段的发展，有可能通过脑机接口，逐步实现人脑和机器脑的融合。

此外，段树民认为，现在的生活，如果和30年前、40年前相比，绝大部分人在物质生活层面都会比那个年代好得多，但并不一定会觉得幸福感比那个时候高得多。主要的原因是幸福感是一种感觉，是脑的一个活动状态，并不完全和物质成正比。所以，调控好我们的大脑具有普遍意义，对身心健康有重要的影响。

以下为段树民演讲实录：

段树民：非常荣幸能在网易未来大会上讲一下脑科学，今天的主题是区块链和人工智能，实际上这个领域我是外行，但我可以从脑科学的角度来谈谈怎么样人脑能够和人工智能很好的、和平的相处，我们叫脑机融合!

我们知道大脑是自然界，可以说是最奇妙的产物，也是最复杂的产物，我们曾经认为大脑是很难以理解的。科学家有过共识，曾经在《科学》杂志成立125周年时做过调查，25个没有解决的最重要的科学问题，第二个就是意识的神经生物学基础，第一个是宇宙是怎么产生的。

大脑是进化的产物，可以看到大脑进化了数亿年，实际上我们人类大脑，从灵长类到人类进化的时间并不久，现代人大概是20万年前出现，在历史长河中还不是那么久远。但是人工智能发展也就一百年的时间。尤其是最近十年的发展，令我们非常震惊，在某些方面它的智能已经超过我们人类。下围棋，甚至其他一些事情大大超过人类。因此，它对我们的冲击也是非常巨大的。可以说在过去这些年，脑科学的研究和人工智能的研究这两个领域其实是交融非常少的，基本上研究人工智能的不太关心脑子是如何工作的。我们研究大脑的人，也不太懂人工智能。唯一有个交叉点，人工智能这些年应用了神经网络和深度学习，可能和我们大脑开始研究的行为，科学家提供一些理论学说，有那么一些贡献。但这两个学科基本上还是交叉的很少。

人们对人工智能发展的看法其实是两方面的，有正面的，有负面的。负面的，以霍金为代表的，他的担忧也可能是很多人比较认可的，就是人工智能有没有可能将来是灾难性的，我们人类不能控制它了。当然也有乐观派，例如非常有理想的马斯克，他现在也非常关心人的大脑如何能好好利用人工智能，叫脑机融合、脑机接口。他已经做了一些技术上的突破。按照他的想法，最理想的状态是，将来人的大脑可以很好的控制外界，不管人工智能多发达，外部机器多发达，人的大脑都可以很有效的控制它。

如果做到这一步，最基本的一个东西就是你要解析大脑的信号，知道大脑是如何运作的。只有解析好大脑，我们才知道如何将大脑的指令很好地传到外部仪器。解析大脑实际上也是我们脑科学这些年不懈努力的工作。科学家们曾认为如果将来的研究做到极致的话，我们应该能够在分子细胞微观水平上解释大脑各种功能的工作机理，包括最神秘的意识。我们每个人都不一样，性格各异，所具有的特长也是各异的。如果真正能把大脑解析清楚的话，这些特异的，每个人不一样的地方，其实就是负责某一特异功能那一块的神经元集群及其联系、以及相关的分子事件是不一样的。按照还原论，我们最终是能从分子细胞水平来解释智能的活动。

脑科学的研究在过去这些年主要从大致两个方面进行的：一个是微观的分子细胞水平;另一个就是宏观的系统，心理认知这个水平。这两个水平的研究都可以说取得比较大的进展，尤其是微观水平，我们现在对在微观上神经元怎么处理信号，是怎么发放信号，这些已经研究的非常清楚。在系统和认知功能上，我们也研究出一些规律，但是我们仍然做不到还原论的看法，不知道这些功能是怎么样从分子细胞水平来完成这些系统的功能。最主要的原因就是缺乏一个中间的环节，我们叫神经环路。人工智能领域称为神经网络，正是在这个网络水平的活动才是大脑工作机理的关键，而我们对它了解的很少。为什么很少，主要是缺乏手段，神经环路太复杂了。我们人的大脑有上千亿个神经元，每个神经元又和成千上万其他的神经元发生联系。所以过去科学家曾经认为这是不可能了解清楚的，基本上是放弃的。要么就去研究非常微观的东西，要么就研究宏观的，把它作为一个黑匣子来处理。但是近些年，脑科学领域有些技术的突破，这也是交叉科学合作的结果，使得科学家认为我们现在有可能对神经环路进行比较好的解析，这一系列技术我就不详细说了。

一个有代表性的技术突破就是光遗传学，什么意思呢，可以把一个外界的对光敏感的通道通过遗传学的方法，可以把它转基因到特定的神经环路里特定神经细胞上，然后就能对这个环路进行解析，甚至对它的行为学进行解析。和它相对应的还有其他一系列技术，包括形态学上的显微成像技术的发展，神经元联系的可视化追踪等等手段，可以从功能上和形态上对神经环路进行精细的解析。这样的话，使得科学家有信心对动物复杂的脑功能机制进行详细的环路解析。

脑的功能研究也有几个层次，如果从行为学来研究，可以是简单感觉运动，我们觉得感觉运动很复杂，其实对脑功能来说是最简单的功能。复杂的功能，如高级认知功能，也是大脑的新皮层的功能，包括逻辑思维、抉择、学习记忆。人工智能的逻辑计算所模拟的智能主要是这方面的。在进化上人类新皮层是近几十万年的结果。但是中间环节的本能行为则是大脑数亿年进化的结果，而且高度保守，一直到人类还在发挥重要作用。但过去的研究非常少，主要也是研究手段的限制。本能行为其实非常重要，对我们的潜意识、我们意识不到的东西发挥很重要的作用。另外它也是目前人工智能所不具备的功能。手人工智能遇到的计算瓶颈就是高能耗、依赖大数据学习。而这些恰恰是本能行为的优势，大多数本能行为都是生来就有的，或者只需要经过简单的学习，不需要大样本学习就可以高效运行。另外，它的耗能也是非常少，这些都是人工智能需要向大脑学习的地方。

在心理学的研究中，我们知道弗洛伊德对梦的解析。那时候他遇到问题，他要解析的东西其实都是本能的行为。他是个精神科医生。遇到了很多病人出现的问题其实就是现在所说的焦虑症、抑郁症。他们的主诉可以是全身的症状，主要的功能就是本能功能出现的障碍和问题。这些问题过去没有神经科学办法去研究，所以要通过精神分析和心理学手段进行研究和判断。

本能功能出现的问题，在现代社会产生越来越重要的影响，对我们身心健康影响可以非常广泛。社会节奏的加快、竞争压力的增加，使得神经精神疾病的发病率越来越高，在中国的疾病总负担中已经占20%，超过癌症和心血管疾病。所以脑科学的研究的意义，无论对基础、交叉学科还是实际临床应用上都是非常重要的。

下面简单举一个本能行为的例子——恐惧。如先天性恐惧，最著名的例子是老鼠怕猫，小老鼠不一定被猫咬过，它生下来就会怕猫，当然恐惧也会后天性，如一次被蛇咬，十年怕井绳。恐惧对生物，包括到人类都有重要影响。现在很多焦虑，你为什么焦虑?就是你在害怕一些东西，所以恐惧的情绪对我们的身心健康会有很大影响。

这种情绪，你能否解析甚至控制它?其实我们在动物里面可以做得很好。这个图像里面用TMT这三个字标记烧杯，烧杯里面放的液体是含有小鼠天敌的味道，就是狐狸尿或者猫尿的味道，它闻到这种气味就一点都不敢动。我们找到脑内的某个部位的一些神经细胞，让他们表达光敏感通道，就可以用光控制他们的活动。你可以发现用光刺激它们，就可以让小鼠克服恐惧心理，它可以向周围跑去探索环境，可以看到非常有效地控制了恐惧行为。光灭了以后，它闻到气味又躲避，恐惧行为又出现了。

反过来我们可以控制另外一群神经细胞，刺激它们后则会产生恐惧行为。小鼠本来是自由活动的，但当光刺激这些神经元时，小鼠马上就不敢动，产生本能的恐惧反应。

我们已经可以在动物里面对各种行为进行精细的解析和调控。将来是否可以造福于人类，比如人类的焦虑抑郁症?当然不能埋光纤，所以科学家们想办法用无创的方法来调控脑的特定部位，比如聚焦超声和其他一些办法。将来随着我们技术手段的发展，有可能做到通过脑机接口实现人脑和外界机器脑的融合，不但发挥脑的巨大的功能，也可以让我们的大脑处于一个很好的状态。其实我们大脑能够产生内源性奖赏物质，使得我们处于一个良好的状态，做事情会有动力;但如果发生抑郁症，这些物质就不分泌，就会产生问题。当然如果过度去刺激它也会出现问题，如吸毒，就是过度刺激这个系统，最终造成成瘾。我们提出一个概念就是“幸福脑”，我们对幸福是一种感觉，是你的一种认识，而不是绝对依靠物质生活。绝对的物质生活再丰富，也不一定愉快。现在的生活，如果和30年前、40年前相比，绝大部分人在物质生活层面都会比那个年代好得多，但并不一定会觉得幸福感比那个时候高得多。主要的原因是幸福感是一种感觉，是脑的一个活动状态，并不完全和物质成正比。所以，调控好我们的大脑具有普遍意义，对身心健康有重要的影响。

我就讲这些，谢谢大家!

关键词： 脑科学 技术