Open AI와 AlphaGO, 어느 것을 응원하는가?

전세계 E스포츠 행사 중 상금면에서 가장 거대한(24,787,916 USD) 행사인 The International 2017이 마무리되었습니다. 해당 행사에서는 엘론 머스크(Elon Musk)의 Open AI에서 만든 인공지능(이하 Open AI)과 프로게이머 3명의 이벤트 경기가 진행되었습니다. 비디오 게임에 관심 없는 분들을 위해 자세히는 설명하지 않고 간략하게 소개하자면 10명이서 2팀으로 나뉘어 진행하는 게임을 축소하여 1대1로 진행하였습니다. 3명의 선수와 겨루어 한 경기만을 패배하며(경험의 부족으로 보이는 말도 안 되는 실수로) 유의미한 지표를 남기었습니다.

비록 정식 경기의 형식을 띈 것은 아니지만 알파고에 이어 다시 한번 인공지능의 발달을 느낄 수 있는 순간이었습니다. Open AI는 사람과의 대전을 한번도 하지 않고 순수하게 2주일간의 자신과의 대전을 통해서 성장한 인공지능입니다. 실시간 게임은 비효율적임에도 심리적으로 이득을 취할 수 있는 상황이 있는데 Open AI는 사람과의 대전경험이 없음에도 이를 이용하더군요. 심리전이라는 것은 경험을 토대로 형성된 심리를 이용하는 것인만큼 Open AI도 자신과의 대전에서 경험을 통해 형성된 습관 등을 이용할 수 있었나봅니다.

진정한 초지능에 대해서는 회의적인 시각이 많습니다. 뇌과학과 컴퓨터공학 양쪽에 업적을 지닌 제프 호킨스(Jeff Hawkins) 같은 이들은 가능한 일이지만 지금과 같은 방식으로는 이루지 못 할 것이라 보기도 합니다. 제프 호킨스는 인간이 아직 뇌에 대한 이해가 부족하며 진정한 '지능'이 무엇인가에 대한 이해가 없는 컴퓨팅은 비효율적이라고 여깁니다. 스티븐 핑커(Steven Pinker)와 같이 인간의 뇌를 진정 기계로 구현할 수는 없다고 보는 이들도 있습니다. 이처럼 초인공지능의 도래가 불가능하거나 어렵다는 종류의 회의가 있는가하면, 초인공지능이 초래할 일에 대한 두려움으로 회의감을 지닌 이들도 있습니다. 분명 초인공지능은 거대한 잉여자본을 생산할 것입니다. 인간의 노동력을 대부분 대체 할 것이며 심지어 인간을 노동에서 완전히 해방할 지도 모릅니다. 하지만 초인공지능이 옳지 않은 손에서 탄생한다면 어떨까요?

다이너마이트와 핵기술은 모두 인간의 의지로 파괴적 목적으로 사용되었지만 초인공지능은 스스로의 판단에 의해 인간을 제거하거나 억압할 수 있으며, 한번 이런 판단을 내리면 우리는 어떠한 방법으로도 이를 막을 수 없을 것이라는 두려움에서 이러한 회의론이 형성되었습니다. 따라서 회의론자들은 적절한 규범을 형성하고 개발자들이 윤리의식을 지녀야 한다며 목소리를 냅니다. 강한 주체의 감시와 통제 하에 이러한 연구가 이루어져야 인류 전체가 수혜자가 될 것이며, 돌이킬 수 없기 전에 부작용을 미리 예방할 수 있다고 주장합니다.

저는 전적으로 이에 동의합니다. 비록 최초의 초인공지능은 감정이 필요도 없으며, 지니지도 않을 것이라 생각하지만 감정 없이 그저 규범에 따라 행동하는 것조차도 인류에게 파멸을 가져다 줄 것이라는 회의론 시나리오는 얼만든지 있습니다. 따라서 '먼저' 초지능을 만들어내는 영광에 서두르기에 앞서 적절한 안전장치에 대한 논의가 진행되었으면 합니다.

이러한 두려움에 비영리재단, 퓨처 오브 라이프 인스티튜트(Future of life institute)가 인공지능 개발의 원칙을 제시하고, 이에 알파고를 개발한 딥마인드의 CEO, 데미스 하사비스(Demis Hassabis)를 포함한 많은 인공지능을 개발하는 이들이 동의하였지만 영리법인에는 아무래도 제약이 많습니다. 사측의 이윤(특히나 대부분의 인공지능 연구소가 대기업에 인수되었음을 고려하면)과 투자자들로부터 자유롭지 않습니다. 이타적인 인공지능을 꿈꾸며 잘못된 인공지능에 의한 재앙을 예방하려는 비영리재단 Open AI를 딥마인드보다 응원하고 싶은 것은 지나친 우려가 담긴 것일까요?

It’s hard to fathom how much human-level AI could benefit society, and it’s equally hard to imagine how much it could damage society if built or used incorrectly. Since our research is free from financial obligations, we can better focus on a positive human impact. We believe AI should be an extension of individual human wills and, in the spirit of liberty, as broadly and evenly distributed as is possible safely. -Elon musk
인간수준의 인공지능이 우리 사회에 얼마나 큰 혜택을 줄 것이며, 잘못 만들어지거나 사용될 때 우리 사회에 얼마나 큰 피해를 끼칠 것인지는 판단하기 어렵습니다. 우리의 연구는 재정적인 의무로부터 자유롭기 때문에 긍정적인 효과에 초점을 맞출 수 있습니다. 우리는 인공지능이 개인의 의지의 연장선에 있어야하며, 자유의 정신에서 가능한 넓고 균등하게 분배되어야 한다고 생각합니다. - 엘론 머스크