题图：Cheva用AI创作。
在这篇文章开头，我想总结一下《千脑智能》这本书之前的两章，主要讨论了人工智能可能对人类带来的威胁和作者的观点。作者认为，人类对人工智能的担忧是多余的，因为人工智能是一种全新发展起来的技术，不像我们人类的智能是自然界经过亿万年的演化产生的，它没有什么沉重的历史包袱，也就是不会被一些原始而底层的动机所驱动。这些动机往往是非常短视的，但是在智能出现以前的自然界，这些短视的动机产生的行为能够有效地保证基因的传递，所以它在自然选择过程中也被保存下来。比如人类时不时会表现出的暴力、攻击性行为、强奸等等。而人工智能则是从一开始就是为了模拟人类新皮质中智能的部分而产生的，它没有那些由自私的基因所驱动的原始的欲望，比如不断地复制自己，通过暴力和威胁获取资源，甚至奴役人类等等。
当然我基本同意作者的说法，人工智能应该大力发展下去，它很可能是会改变我们人类文明形态的一项技术，绝对不能因为害怕它的负面作用而裹足不前。但是作者说的这些东西虽然也是非常有道理的，但是人工智能毕竟是机器，是可编程的，将这些具有破坏性的动机植入人工智能在将来对人类来说也不是什么难事。所以这项技术必须被严格地监管，但是我所说的监管并不是让政府来做这件事情。考虑到这个世界上所有的战争都是爆发在大大小小的政府之间，最有动机拿人工智能技术去进行破坏行为的人恰恰就是政府。所谓的监管应该是让人工智能技术尽量地公开开放，而不是被封闭地秘密地掌握在几家少数的公司和机构手中。所以现在开源大模型百花齐放局面真是非常理想。
总结完了前面两章之后，我们进入新的话题，也是更有趣，大家更关心的话题，就是人工智能技术的未来。作者主要讨论了两个方面，一个就是意识上传，另一个就是脑机接口。这两个话题就是赛博朋克科幻主题中不可缺少的两个部分。而前两年大火的单机游戏《赛博朋克2077》，对两者都有非常深入的刻画。
意识上传是科幻界中的一个非常热门的主题。理论上，如果我们能够读取我们上千亿个神经元当中的所有信息，并在计算机中将它们模拟出来，我们就可以实现历史上传。当然像彭罗斯之类的科学家认为，意识是某种量子计算机的人可能不会同意这种观点。但是目前这种神经连接产生意识的理论有比较完整的理论框架，而意识来自于量子效应的说法仅仅是猜测，而没有多少充足的证据。
听上去似乎并没有那么难，但是实际上实现起来却有很多难以克服的障碍。如何同时读取上千亿个神经元的信息？这样的技术目前还不存在，而且在可预见的未来也不会存在。而模拟大脑神经元活动所需要的算力可能也超过了现在人类的科技水平。但这些都不是根本的问题，随着科技的进步，只要人类没有自我毁灭，总有实现的那一天。
但一个根本的问题是你要如何上传自己的意识？你要上传自己意识的多少部分？当然一般人肯定会说我要上传我大脑神经元中的全部数据，和本人一模一样，这样才有意义。但实际上大脑中的很多神经元是与你的身体相连接的，而在电脑中并不存在这样一副身体。比如你有些神经元是控制心跳和呼吸的，而电脑并不需要这些动作。你有些神经元是控制你的四肢运动的，而电脑操作的机械臂可能是完全不同于你身体结构和功能的机器。将这些神经元数据在电脑中模拟出来之后，它们会找不到自己控制对象，而向电脑发出错误信息。而这很可能就对应着疼痛感觉。那么这个模拟出来电子人将会生活在无尽的痛苦当中。
那么也许你会退一步说，那我不需要这些了，我在电子世界中存在，我只需要有我的思维就可以了。但是大脑是一个复杂网络，功能区域之间并没有分明界限。想一想之前提到幻肢例子，即使某个人在战争或者事故中失去了自己部分肢体，但大脑仍然可能会感觉到它们存在，甚至能感受到那并不存在肢体上产生疼痛和搔痒感觉。所以拿掉这些部分并不一定能让你大脑好受起来。
而就算这一个难题可以被克服，再仔细地想一想这样一个场景。假如有一天意识上传的技术已经实现，专业公司开始提供这项服务。垂垂老矣的你想让自己获得永生，来到这家公司。然后你躺在病床上，头上戴着读取大脑神经信息的仪器。医生给你打了一针麻药，你睡了过去。然后读取的过程开始了。过了不知道多久，你突然醒来，发现自己已经进入一个电子世界当中。你心想，太好了，我已经上传成功了。然后你看到病床上躺着你的生物躯体，就对医生说，可以了，可以把我的生物躯体处理掉了。而这时躺在病床上的你也醒过来，发现一切都没有改变，你的意识还在你的身体当中。你大叫说，等等，我还没有死呢！这时你会发现所谓的意识上传，不过是把你一个人变成了两个人。一个存在于电脑当中，一个仍然存在于你的躯体当中。到底哪一个才是真正的你呢？这个问题很难回答，但有一点可以肯定，你们现在是两个人。如果要遵循人道主义的原则的话，作为生物的你还是应该继续活下去，直到自然死亡。而在这段期间，你和那个上传的电子版本就是两个不同的人。虽然你们拥有共同的记忆，但此之后的经历就会截然不同。
这个过程听上去并不是那么美妙，而且也没有什么意义。这整个过程在本质上就和生孩子没有什么两样。只是你生孩子的时候不会将你的经历和记忆一同复制到他们的大脑当中。而这也只是在程度上的不同而已。在孩子的成长过程中，父母仍然会通过言传身教将自己的观念、宗教信仰、经历、教训等传授给孩子。而且如果你能够将你的记忆完整地传给孩子的话，你也会后悔这样做的。因为他们要从一开始就背负着你甚至几辈人的记忆。这对一个孩子来说将是一个沉重的负担，会让他们疯掉。
在你知道了这些之后，也许对数字永生就没有那么向往了。人类确实是一个奇怪的生物，在基因中让人类本能地恐惧死亡，而死亡又是一件不可避免的事情。为什么基因会让人类去害怕一件必然会发生的事情呢？这也是基因进化程序的必要。它需要人类活得足够长，以达到生育年龄将基因传递下去。同时它也需要年老个体死亡，从而腾出生存空间。而且就像作者所讨论的那样，人脑构建出来的世界模型有可能是错误的。就像古代的人相信天圆地方就是一个错误的世界模型。而人脑的可塑性其实也没有想象的那么大。而这些错误的老旧的世界模型也只能通过死亡的方式从这个世界上消失。
