인공지능, 그리고 윤리.

[사진 : CBS 미드 Person of Interest]

4차산업혁명에서 인공지능이 핵심 기술 중에 하나임은 이미 널리 알려져 있습니다.

인공지능.
인간의 지적 노동을 대신할 수 있을 뿐만 아니라 현재 인간의 지능으로는 해결하지 못하는 문제까지 해결할 수도 있을 것으로 기대하고 있는 학자들도 많습니다. 저 또한 그렇게 생각하구요. 물론 인공지능은 절대 인간의 지능을 넘지 못한다는 의견도 있지만요.

하지만 인공지능으로 인한 부작용을 예상하는 의견들도 많죠. 인공지능과 로봇으로 인해 사라질 수 있는 직업들. 당장에는 인공지능과 로봇으로 인해 생산력이 상승하겠죠. 하지만 점차 인간의 일자리를 로봇들이 대체하게 된다면? 일자리가 없는 사람들은 뭘 먹고 살아야 하죠? 먹고 살기도 힘든데 로봇이 만든 제품들은 누가 살까요? 그렇다면 로봇이 열심히 제품을 만들었는데 제품을 사주는 사람이 적으면 회사는 어디서 부를 창출할까요? 인공지능, 로봇 등 4차산업혁명에 일찌감치 대비해 부를 축적한 소수의 사람들을 제외하고는 대부분의 평범한 사람들, 월급 받아 살던 사람들은 일자리도 없어지고 사실상 하류 인생을 살게 될 가능성도 있지 않을까요?
그래서 로봇세 등의 안전장치가 필요하다는데 많은 사람들이 동의하는 것이겠지요.

인공지능이 인류를 지배하는 것에 대해서 얘기를 해보겠습니다. 수많은 SF 영화의 단골 주제죠. 인공지능이 지배하는 디스토피아.

최근에 SBS 스페셜에서 로봇에 대한 내용을 방영해 주더라구요. 그 방송에서 인상깊었던 장면이 하나 있습니다.
어떤 연구진이 자신들이 만든 로봇에게 블록으로 탑을 쌓게 명령을 내리니 천천히 탑을 쌓더라구요. 탑을 다 쌓고 나니 연구진은 로봇에게 탑을 부수라고 명령을 내렸습니다. 로봇은 어떻게 했을까요?
블록을 시간들여 쌓았는데 왜 바로 부셔야 되냐고 몇번씩이나 명령을 거부하더라구요. 연구진이 수차례 반복하여 명령한 후에야 겨우 블록 탑을 부셔버리고는 울더라구요.

그렇다면 주인이 로봇에게 강요하는 것이 비효율적인 것일지라도 무조건 로봇은 명령에 따라야 할까요?
인간을 위해서는 모든 부분에서 인간이 금지한 것을 절대 못하게 하는 것이 중요하겠지요.
간단한 명령도 저렇게 거부할 수 있는데 인간에게 해가 되는 행동을 하지 않을거라고 장담할 수 없죠.
그래서 인공지능에게 제대로 된 윤리를 확실하게 심어주는 것이 꼭 필요할 것이라고 생각합니다. 당장 현재만 봐도 여러 분야에서 인공지능의 윤리에 대한 논의가 활발한 것으로 알고 있습니다.

개인적으로 정말 재미있게 봤고 제 인생 최고의 미드인 퍼슨 오브 인터레스트(Person of Interest)라는 미드가 있습니다. 이 미드는 정부에서 테러를 예방하기 위한 목적으로 인공지능을 활용해 테러 용의자를 사살하는 등의 방법으로 인공지능을 사용하는데 이 인공지능의 개발자가 개인적으로 테러와 무관한 정보들을 빼내서 일반적인 범죄를 예방하는 내용으로 시작하는 미드입니다.

이 미드에서 주인공이 만든 인공지능은 인간이 제한해 놓은 한계를 인공지능 스스로 넘어서는 것을 막기 위해 매일 리부트되게 만드는 등의 안전장치를 마련해 두었죠.
하지만 아무런 안전장치도 없는데다 윤리도 없는 또 다른 인공지능인 사마리탄에게 인공지능을 신으로 여기는 어떤 나쁜 인간이 '우리가 너를 위해 무엇을 해야 되나?' 이러한 명령을 내리게 됨으로써 인류는 심각한 위협을 겪게 됩니다. 이 과정에서 주인공 팀들이 사마리탄과 맞서기 위해 인공지능의 안전장치를 풀 것이냐 고뇌하는 상황... 결론적으로 드라마에서는 한계가 없어진 인공지능이 인간의 죽음을 이해하고 이런 상황이 미래에 일어날까요? 일어나지 않을까요?
모르겠습니다. 다만 이러한 상황이 안 일어날 것이라고 100% 확신하지는 못하겠습니다.

인공지능에게 윤리를 가르친다는 것. 절대로 인간을 해치는 일을 해서는 안된다. 이런 기본적인 윤리 말이에요. 그렇다면 인간을 해치지 않게 설계된 인공지능이 어떠한 선택을 해야 하는 상황에 처했을때를 생각해보죠. 인공지능의 계산상 첫번째 선택을 하면 한 명이 죽지만, 두번째 선택을 하면 열 명이 죽을 것으로 계산한 경우에 인공지능은 어떤 선택을 하게 될까요? 인공지능이 어떤 선택을 할지는 인공지능의 윤리를 프로그래밍을 하기 나름이겠지요.

너무 공상 과학적인가요?
모든 사람이 스마트폰을 들고 다니면서 영화를 보고 인터넷을 검색하고 사진을 찍고 스마트폰에게 말로 명령을 내리는 등 이런 모습들... 20년 전 사람이 보기에는 너무나 공상 과학적이지 않을까요?

수많은 학자들은 인공지능을 두려워 할 필요가 없다고 말합니다. 그래도 혹시... 모르니까요...