우리는 인공지능은 적어도 인간보다는 객관적일 것라고 생각합니다.
스타워즈에 나오는 로봇보다 꽤 똑똑합니다. 그리고 로봇은 인간을 절대 배반하지 않습니다.
똑똑하면서도 인간을 배반하지 않는 로봇은 친구로서 매우 적합한 존재입니다.
또한 인공지능은 사람의 편견을 갖지 않을 것이라고 생각합니다. 편견이란 불합리한 요소이고, 인공지능은 논리적인 원칙에 따라 판단하기 때문에 전혀 편견을 갖지 않을 것이라는 믿음을 주기에 충분합니다.
우리는 편견이란 동물적인 것이라고 생각합니다. 충분한 지식이 부족하거나 상황판단에 나의 이익과 의도가 반영되기 때문인 인간을 편견을 갖게 되는 것이라고 생각합니다.
아름다움에 대한 인간의 판단은 어떨까요? 인간은 자신의 편견에 따라 사람의 아름다움을 판단합니다. 반면, 인공지능은 매우 객관적인 기준에 따라 판단할 것이라는 기대감이 있습니다.
그런데 최근 인공지능에게 미인대회의 심판을 맡기려는 시도가 있었습니다. 과거 미인대회에서 우승한 사람들의 데이터를 주어 인공지능이 객관적인 미의 기준을 발견하게 했던 것입니다. 그런데 인공지능을 시범적으로 테스트한 결과 매우 이례적인 결과가 나왔습니다.
그것은 바로 인공지능이 다른 어떤 지표보다도 오직 "피부색"에 의해서 미인을 판별해낸 것입니다.
인공지능에게 주었던 데이터는 과거 인간의 편견으로 작성된 것이었기 때문에, 그 데이터를 학습한 인공지능 또한 인간의 편견을 그대로 답습한 것이지요.
어쩌면 인공지능의 편견적 판단은 더욱 큰 문제를 일으킬 수 있습니다. 인간은 의례 편견을 가질 것으로 생각해서 일부나마 보정이라도 할 수 있는 반면, 인공지능의 판단은 마치 객관적인 것으로 호도될 수 있기 때문입니다.
운동경기에서 사진판독과 같은 기계적인 판단은 인공지능이 인간보다 더 잘 할 수 있을 것입니다. 그런데 과연 우리는 인공지능에게 경기의 주심을 맡길 수 있을까요?