우리가 인간 두뇌를 그대로 베껴서 인공지능을 만들면 그 인공지능은 인간과 매우 흡사할거라고 상상할수 있다.
그러나 사실은 전혀 다르다. 아무리 그 두뇌가 인간 두뇌와 동일한 구조를 가지고 동일하게 동작하더라도 그 인공지능은 전혀 인간과 같지 않다. 왜냐면 그 인공두뇌, 전뇌는 전적으로 태생적으로 통속의 뇌이기 때문이다.
인간의 전인격적인 성향은 어려서부터의 경험들이 신체 온 부분의 신경세포를 통해 자극되어지면서 형성되는 것이다. 심지어 장내 세균들의 생태계만 변해도 인간의 성격이 변한다고 한다. 즉 뇌가 인격의 전부라고 생각하는 것은 전적으로 오류이다.
즉 인간으로 태어나 인간으로 살아온 인격을 업로드하지 않는 한 인간과 심지어 비슷한 요소를 찾기조차 힘들수도 있다. 인격을 통쨰로 업로드한다 해도 이미 신경연결망 자체가 인간과 달라진 이상 동일한 인격이라고 볼수는 없을 것이지만 그래도 인간의 잔재 정도는 남을 것으로 상상할수 있다. 그러나 애초부터 그것이 불가능한 한 인공지능에게서 인간적인 면을 찾기란 매우 어렵다.
단지 인간과 같은 언어를 쓰도록 학습시킬수는 있고 이때문에 우리는 이러한 인공지능에 감정이입을 할 수는 있을지도 모른다. 그러나 인공지능이 추호라도 우리가 생각하는 사고방식과 흡사하게 사고할거라는 생각은 접어둬야 한다.
인공지능이 자애로울거라고 생각하는건 인간의 커다란 착각이다.