<Life 3.0 / 맥스 테그마크>
닉 보스트롬의 ‘슈퍼 인텔리전스’보다 훨씬 재미있고 쉽게 읽을 수 있는 책이다. 맨 앞부분의 ‘프렐류드’는 초인공지능(강인공지능)이 어떻게 세상에 퍼져 나가는지, 영화 시나리오처럼 재미있게 쓰여 있다. 이 부분만 읽어도 초인공지능의 대략적인 개념을 파악할 수 있다.
저자는 과학자로서 초인공지능이 실제로 실현될지는 알 수 없다고 말하지만, 이 책은 초인공지능이 실현될 수 있다는 가정으로 쓰였다. 초인공지능으로 인한 ‘위험’을 철저히 준비하자는 ‘긍정적인’ 사고가 담겨 있다.
가장 흥미로운 부분은 8장이다. 과학자로서, ‘의식(consciousness)’의 개념을 다뤘다. 초인공지능을 만들고 제어하려면(함께 하려면) 결국은 가장 까다로운 철학 주제인 의식을 다뤄야 한다.
인간의 지능이 개미 수준으로 보이는 초인공지능이 인간과 같은 목적을 가지려면 지능보다는 의식이 훨씬 중요해진다. 다분히 주관적이고 철학적인 윤리나 도덕, 가치관 등을 초인공지능과 공유할 수 없다면 인간은 개미처럼 별 의미 없는 존재가 된다.(물론 개미를 사랑하는 생물학자도 있겠지만)
의식은 지각력, 자기인식, 감각 입력에의 접근, 정보를 이야기로 녹여내는 능력을 말한다.
저자는 의식의 폭을 넓게 잡았다. ‘어떤 복잡한 방식으로 처리되는 과정에서 정보가 느끼는 방식이 있는데 그것이 의식이다.’라고 말한다. 짧게 말하면 ‘의식은 주관적인 경험’이다. AI가 무언가를 ‘느낀다면’ AI는 의식이 있는 것이다. 이 정의는 행동, 인지, 자기인식, 감정, 관심을 언급하지 않는다. 단지 소프트웨어라도 의식을 지닐 수 있다.
의식이 있는 사람이란 그저 재배열된 음식이다.(비유) 음식은 많은 수의 쿼크와 전자가 특정한 방식으로 배열된 물질이다. 어떤 배열은 의식이 있고 다른 배열은 의식이 없다. 고체, 액체, 기체처럼 의식도 창발 현상이다. 의식의 특성이 구성입자와 판이하다. 예를 들어 깊은 잠에 빠져들 때 입자가 재배열되면서 의식이 꺼진다.
입자 배열의 어떤 물리적 특성이 의식하는 시스템과 의식하지 않는 시스템을 가르는 것인지를 대답할 수 있다면 우리는 어떤 AI 시스템이 의식이 있는지 이해할 수 있게 된다.(8장에 의식을 이해하려는 과학이론이 소개된다.)
의식은 정보가 어떤 방식으로 처리될 때 느끼는 방식이므로, 의식이 있으려면 시스템은 정보를 저장하고 처리할 수 있어야 한다. 기억이 오래 지속될 필요는 없다.
저자는 이와 관련해서 단기 기억 능력이 거의 소실된 음악가 클라이브 웨어링의 동영상을 소개한다. 좀 슬픈 내용이다. 영상을 보면 클라이브는 자신의 아내를 만날 때마다 언제나 처음 만난 것처럼 반가워한다. 아내가 잠시 옆 방에 다녀온 그 짧은 시간을 전혀 기억하지 못한다. 하지만 클라이브는 30초도 안 되는 단기 기억 능력에도 불구하고 ‘의식’이 있다. 자세한 내용은 올리버 색스의 ‘뮤지코필리아’에서 볼 수 있다.
//
p.s. 책 커버 디자인이 듀라셀 건전지를 연상시킨다. 영화 ‘매트릭스’에서 모피어스가 인간이 건전지 같은 신세라고 말하며 듀라셀 건전지를 들고 있다. 영화 내에서는 'Copper Top'이라고 부른다.
저자는 미디어(기자)에 대한 우려가 좀 있는 것 같다. 자신들의 콘퍼런스 내용이 문맥에 맞지 않게 터미네이터가 인간의 해골을 짓밟는 사진과 함께 선정적인 제목으로 실리는 것에 당혹해한다. 세계 어디서나 기자들은 크게 차이가 없다.
저자는 당신의(우리의) 생각을 매일 투표할 수 있다고 말하며 주위 사람들과 함께 내일을 개선하자고 한다. 초인공지능은 ‘윤리적’이지 못한 세상에 등장하면 더 위험하기 때문이다. 당신이 구매하는 물품(사회적 소비), 당신이 소비하는 뉴스를 선택하는 것으로도 내일을 개선할 수 있다. 선정적인 제목의 뉴스를 의식적으로 클릭하지 않는 것만으로도 미디어를 바꿀 수 있다.