题图：Cheva用AI生成
再聊一聊《千智之脑》这本书。前几天的帖子说到，经过多年的研究，寻找人脑工作的原理，并且将他的研究成果，和成书时的人工智能的研究状况做了对比。认为当时的人工智能成果和人脑的运作原理相比，存在以下这些不足：最明显的就是，通用性不足，下围棋的人工智能只会下围棋，识别图像的人工智能也只会识别图像。当时大语言模型还只是初露锋芒。作者在书中提到了这种语言模型，提到它能够写出像人类一样的话，但是仍然只是把它当作一个专用的模型。为什么这些模型只能进行单一的任务？作者认为，人脑的第二个工作特点就是依赖参考系框架在构建关于外部世界的模型，而专用的人工智能模型并不是这样。
不过，我认为他在当时有些低估了大语言模型和他所发现的人脑运作原理的相似之处。大语言模型实际上也是在以词语为单位，在一个巨大的向量空间当中建立坐标系框架，将观念、含义相近的词语放到距离相近的坐标上。大语言模型实际上也是通过参考系框架在建立世界模型，只是人脑是借助我们的各种感官，其中以视为主来建立这个模型。而大语言人工智能模型则是通过学习大量的文本来建构世界模型，它与人脑的区别仅仅是方式，而在原理上是几乎一样的。这就像人类主要依靠视觉而蝙蝠、海豚这样能够发出和接收超声波的物种，它们可以通过听觉来建立外部世界的模型一样。所以语言模型和作者所认为的通用人工智能之间的距离已经非常接近。
除了智能以外，人类对大脑另一个着迷的地方就是意识了。在很多时候，意识就和灵魂是同一种概念，人们赋予它很多的神秘特性。甚至认为具有灵魂才是人类区别于其他物种的最根本的特质。在安徒生的童话《小美人鱼》的原著当中，小美人鱼想变成人类并不是因为爱上了王子，而是因为美人鱼没有永恒的灵魂，而变成人类之后就可以拥有永恒的灵魂了。无疑这是一个宗教意味很浓的故事，所以在现在只有把它改编成烂俗的爱情故事才能为人们所接受。但这也反映出人类对灵魂或者说意识充满了神奇的想象和期望。
而且在现实当中，我们也确实还没有一个完善的科学理论来阐述意识到底是怎么产生的，所以甚至有些顶尖的科学家也相信类似宗教的灵魂不灭的说法。比如，前几年获得诺贝尔物理学奖的科学家罗杰·彭罗斯就相信意识是人体细胞内量子力学效应的产物，但是人体细胞对于量子力学适用的微观世界来说还是太过巨大了。在彭罗斯的理论当中，这种量子效应存在于细胞类的一种非常微小的结构——微管之内，而人脑就是一部量子计算机。他甚至还认为，当人的肉体死亡之后，这些存在于人体细胞内的量子信息并不会消失，它们会回到遍布整个宇宙的量子世界的海洋。
总之这个理论听上去很美好。但是这类理论在本书的作者看来都没有什么科学价值。如果科学家主张自己的理论，那么他就必须自行提出证明，而显然意识和灵魂是量子态的理论还非常缺乏严密的逻辑和实验验证，不应该被认真的对待。作者出于自己研究的成果认为，意识并不神秘，它仍然是大量神经元细胞相互连接、刺激而产生的。作者设想了这样一个思想实验，假设一位研究人员具有一台神奇的机器，它可以重置人类大脑当中的神经元的连接状态，而你是一名参加此实验的受试人员。一天早上，你像往常一样起来，吃完早餐，做好了自己的工作，下午回到家中，把自己的车也清洗了一遍，然后和这位研究人员共进晚餐。这时，研究人员拿出他的神奇的机器，将你大脑中的神经元重置回你早上起床时候的状态。可以想象，那么关于你今天这一整天的活动都不会在大脑中留下任何的印象。这时，研究人员对你说，“现在是晚餐时间了，而且你今天还去洗了车的，把车洗得很干净。”一开始，你一定会大声抗议说，不对呀，我才刚刚起床而已，而且我也没有去洗什么车。研究人员见你不信，就拿出自己的手机，将你洗车的视频播放给你看。这时，也许你会说，“好吧，我确实去洗了车了，但是我一点印象都没有，所以我一定是在无意识的状态下去做了这件事情。”那么，这个思想实验是不是就能说明，改变神经元细胞之间的连接，就能够让意识消失呢？或者说，意识只是一个比较连贯的过程，而非某种实体。其实，不用这么烧脑的思想实验，也能一窥意识的根本。当我们每个人每天都会有一段时间处于无意识的状态，那就是睡眠。这时，应该就是负责产生意识的神经元细胞进入了休眠状态吧？
所以作者认为，很大程度上，意识并不是什么我们现在还没有发现的原理，或者物质的场。它和智能一样，也是神经元相互连接的结果。如果机器人工智能能够模仿人脑的原理，那么机器能够具备意识也不应该是什么让人吃惊的事情。
那么一旦我们确认机器真的具备意识，那我们应该如何看待它们？到时候是不是关闭一台具有意识的电脑将是不可接受的？切断它们的电源，就像杀人一样呢？现在的白左们一定会持这样的观点，到那时他们会认为，机器也有人权。现在的很多影视作品中，已经看出了这样的端倪。比如前两年比较火爆的一部电影《失控玩家》里面，具备意识的电脑游戏中的NPC也要被当作人一样看待，还和真人玩家谈了一次恋爱呢。
但是作者认为，这样的想法大可不必。具备意识并不一定就具备求生的本能。我们人类害怕死亡，拥有求生的本能，很大程度上是人在进化过程中最先形成的旧脑所产生的。旧脑主要通过分泌激素，让你感受到恐惧、喜悦、悲伤之类的情绪。它的反应模式相对简单，而智慧和意识则很有可能是在进化过程中后形成的新皮质所产生的。很显然，我们在制造人工智能的时候，没有必要去实现旧老的那些原始的功能，我们只对智能感兴趣。而未来的通用人工智能应该是模仿人类大脑中新皮质的工作原理，因此有极大的可能它不会具有喜怒哀乐和恐惧的情绪。所以人工智能不会在意你是否切断它的电源，也不会抱怨你给它的工作太多了，所以你可以以你喜欢的方式来对待它，哪怕是奴役它也是没有问题的。
当然我们脑洞再大一点，如果我们连新皮质的功能都能够模仿出来，那模仿人类旧老的功能自然也是不在话下的。那么制造出一台有求生本能和人类一样甚至能够产生自己欲望的机器人，也不是不可能的事情。到那时我们又应该如何看待它们，也许我们真的需要以平等的眼光来看待它们。到那时候又会是一个怎样的世界呢？会像《黑客帝国》和《终结者》那样成为机器和人类对抗的社会，还是机器与人类和谐共存，共同进步的新的文明形态呢？也许放下恐惧，平等接受，确实是正确的选择。
