题图：Cheva用AI创作
再来谈谈《千脑智能》这本书的内容,接下来的内容已经不太涉及技术性强、深奥的理论,而主要是一些对现实的探讨。在接下来的章节中，作者讨论了广泛的对于人工智能的危险的认识。很多人认为随着人工智能的发展，人工智能体会大大超过人类的智能，最终取代人类，造成人类的灭亡。这类担心早在《终结者》之类的影片中就表现得淋漓尽致了。这派人认为人工智能的技术就像是一个潘多拉，一旦打开将会造成人类自身的毁灭。不过作者倒认为这些都是杞人忧天。
作者认为战争、杀戮这些人类自我毁灭的行为通常是由恐惧、 仇视等情绪驱动的，而这些都是由不具备智能的旧脑所产生的情绪。就像前文所说的一样，智能就像是一幅地图，是用它来规划战争，还是来规划贸易路线，这是由不同目的的人来决定的。所以说这样的威胁本身还是来源于人类自身，而不是人工智能。
就算我们出于某些目的制造出能够产生自己动机或目的的机器人，那我们人类也必须将最终决定权控制在自己的手里。在人工智能领域有一个著名的回形针悖论，就是给人工智能下达一项看似无害的指令，也有可能产生毁灭性的后果。比如让它尽最大的可能生产尽可能多的回形针。如果人工智能坚定不移地执行这项指令的话，它会想尽一切办法将地球上的所有资源变成回形针，从而耗尽人类耐生存的自然资源，造成人类的毁灭。
但是这一悖论的问题是，为什么人类会让这个机器人，这个人工智能掌握所有资源的使用权呢？而且是在我们已经知道它的目的仅仅是生产回形针的情况下。
关于作者这部分的观点，我大部分同意，即我们不应该惧怕人工智能技术的发展，它会给人类带来的好处远远大于它的威胁。但是有一小点点不太同意，就是他认为战争、杀戮这些行为完全是由不具备智能的旧脑驱动的，并不准确。
也许在具体执行基层确实是如此，比如极端宗教恐怖分子和旧日本帝国底层士兵。但那些身居高位，真正发动战争和敌对行动所谓精英人士则是绝对理性而不依靠冲动行事的。比如煽动大师希特勒利用德国人民在经济危机中生活困苦窘境、对未来恐惧和不确定感以及一战失败后的失落心情，通过煽动性语言调动底层民众情绪使纳粹党获得选票上台执政。
慈禧太后鼓励义和团，同样是利用民众对外来宗教恐惧无知以及利益冲突，从而转嫁国内政治矛盾，利用民众情绪给自己作对西方列强制造麻烦。这些都是非常冷血算计而不是底层情绪驱动决策。而他们才是发动战争杀戮根源。
第二部分话题就很有趣了。具备智能人类也确实给地球环境造成一定压力。按照某些环保主义者研究，我们人类存在这个时代，物种正以非常高速度消失。其消失速度可以与地球历史上生物大灭绝相比，这似乎说明具备智能人类确实有相当破坏性。
而作者将这个归于人脑中储存着错误世界模型结果。人脑中错误世界模型一个典型例子就是幻知现象。在某些因意外失去肢体人当中，幻知现象广泛存在。他们会经常感觉自己失去那部分肢体仍然存在，甚至会感到疼痛搔痒感觉。这就是因为大脑世界模型中仍然保持着那个肢体信息。
而我们观察和感受到世界并不直接来源于外部世界设计信号。我们观察世界像一个大脑中模型，大脑会根据外部世界设计对模型修改更新。但如果更新不过去或某些观念根深蒂固难改变话，就会形成错误世界模型。
