인공지능 도입에 대한 낙관론과 비관론
인공지능이 미래의 우리 인간에게 어떠한 영향을 미칠 것인가에 대한 예측은 낙관론과 비관론이 팽팽하게 맞서고 있다.
인공지능에 대해 비관적인 미래를 예측하는 대표적인 인물은 미국의 테슬라의 CEO 엘론 머스크와 스티븐 호킹 박사다. 두 사람은 모두 세계적으로 인류의 미래에 대한 높은 식견을 가지고 있는 것으로 존경받고 있는 인물이기 때문에 비관론이 인공지능에 대한 단순한 불안에서 나오는 예측은 아닌 것이다. 반면 페이스북의 CEO인 마크 저커버그는 인공지능에 대해 비관론은 무책임하다며 비난하고 인공지능이 우리 삶을 윤택하게 만들어줄 기술이라고 믿는다고 했다.
낙관론은 그 동안의 기술 발전이 인류의 문화에 기여했던 것처럼 인공지능 기술도 우리의 지혜로 균형점을 잡아서 우려가 되는 부분은 상호 견제 하에 공존의 길을 찾아낼 것이라는 주장을 한다.
여기에 반해서 비관론자들은 인공지능이 인간의 통제를 벗어나게 되는 순간이 결국은 오게 되고 인류의 문화가 위험에 처하게 될 것이라고 본다.낙관론이, 가까운 미래에 인공지능으로 인해 여러 분야에서 인간의 편의성을 증진시킬 제품이나 서비스가 등장하게 될 것이라는 점을 강조하고 있다면 비관론은 조금 더 먼 미래에 인공지능이 인간의 능력을 넘어서는 능력을 가지게 될 경우를 대비해서 지금부터 인공지능의 개발에 대한 방향을 숙고해야 한다는 점을 강조하고 있다.
인공지능 기술이 가져다줄 가까운 미래의 긍정적인 면에 대해서는 대부분이 공감하고 있는 것이다. 하지만 너무나 엄청난 위력과 잠재력을 가지고 있기 때문에 그것의 적용에 관한 기준을 인공 지능이 본격적으로 실생활에 도입되기 전인 지금부터 엄격하게 만들어둘 필요가 있다는 점도 대부분 동의하고 있다.
이런 이유로 '로봇3원칙' 처럼 인공지능이 지켜야할 원칙을 제정하여 인류 모두가 이 기준에 부합되는 인공지능의 연구를 해야 한다는 공감대 아래 여러 논의가 활발하게 논의되고 있다. 그중 가장 유명한 것이 아실로마 인공지능 원칙
Asilomar AI Principles이다. 2017년 1월, 전 세계 인공지능 학자들이 미국의 캘리포니아주 아실로마에 모여 인공지능이 가져올 미래 가능성과 위협에 대해 논의를 하는 '유익한 AI, 2017' 컨퍼런스를 개최하였고, 이것의 결과물로 발표된 것이 아실로마 인공지능 원칙(인공지능 재앙 막는 23가지 원칙)이다.
아실로마 인공지능 원칙(Asilomar AI Priciples)
연구 이슈(Research Issues)
1) 연구 목표: 인공 지능(AI) 연구의 목표는 지향하는 바가 없는 지능이 아니라 유익한 지능을 창출하는 것입니다.
2) 연구비 지원: AI에 대한 투자에는 다음과 같이 컴퓨터 과학, 경제, 법, 윤리 및 사회 연구 등의 여러운 질문을 포함한, 유익한 사용을 보장하는 연구를 위한 기금이 동반되어야 합니다.
- 미래의 인공지능 시스템이 오작동이나 해킹 없이 우리가 원하는 것을 수행 할 수 있도록 매우 탄탄하게 만들 수 있는 방안은 무엇입니까?
- 인류의 자원목 목적을 유지하면서 자동화를 통해 우리가 계속 번영할 수 있는 방안은 무엇입니다?
- AI와 보조를 맞추고 그와 관련된 위험을 관리하기 위해 법률 시스템을 보다 공정하고 효율적으로 업데이트 할 수 있는 방안은 무엇입니까?
- AI는 어떠한 가치들에 따라야 하며, 그것이 가져야 하는 법적, 윤리적 상태는 무엇입니까?
3)과학. 정책 관계: AI 연구자와 정책 입안자 간에 건설적이고 건전한 교류가 있어야 합니다.
4) 연구 문화: AI의 연구자와 개발자 간에 협력, 신뢰, 투명성의 문화가 조성되어야 합니다.
5) 경쟁 회피: AI 시스템을 개발하는 팀들은 안전 기준에 대한 질 낮은 해결책을 피하기 위해 적극적으로 협력해야 합니다.
윤리/가치(Ethics and Values)
6) 안전: AI 시스템은 작동 수명 전반에 걸쳐 안전하고 안정적이어야 하며,적용과 실현이 가능하다면 검증할 수 있어야 합니다.
7) 오류 투명성: AI 시스템이 해를 입히는 경우 그 이유를 확인할 수 있어야 합니다.
8) 사법의 투명성: 사법 결정에 있어 자동화된 시스템이 개입할 경우, 권한 있는 인간 기관이 감시할 수 있는 충분한 설명을 제공해야 합니다.
9) 책임성: 고급 AI 시스템의 설계자와 제조자는 그것의 사용, 오용 및 행위의 도덕적 함의에 있어서, 그것을 형성할 책임과 기회가 있는 이해관계자입니다.
10) 가치와 준수: 고도로 자율적인 AI 시스템은 그것이 작동하는 동안 목표와 행동이 인간의 가치와 반드시 일치하도록 설계되어야 합니다.
11) 인간의 가치: AI 시스템은 인간의 존엄성, 권리, 자유 및 문화 다양성의 이상과 양립할 수 있도록 설계되고 운영되어야 합니다.
12) 개인 정보 보호: AI 시스템이 개인정보 데이터를 분석하고 활용할 수 있는 경우, 사람들은 자신이 생성한 데이터에 접근해 관리 및 제어할 권리를 가져야 합니다.
13) 자유와 개인 정보: 개인정보에 대한 AI의 적용이 사람들의 실제 또는 인지된 자유를 부당하게 침해해서는 안 됩니다.
14) 이익 공유: AI 기술은 가능한 많은 사람들에게 혜택을 주고 역량을 강화해야 합니다.
15) 공동 번영: AI에 의해 만들어진 경제적 번영은 모든 인류에게 이익이 되도록 널리 공유되어야 합니다.
16) 인간 통제: 인간은 인간이 선택한 목적을 달성하기 위해, 의사 결정을AI 시스템에 위임할 것인지 여부와 방법에 대해 선택할 수 있어야 합니다.
17) 비전복: 고도로 발전된 AI 시스템의 통제를 통해 부여되는 권력은 건강한 사회가 의존하는 사회적 시민적 과정을 전복하기보다, 존중하고 개선해야 한다.
18) AI 무기 경쟁: 치명적인 자동화 무기의 군비 경쟁은 피해야 합니다.
장기 이슈(Longer-term Issues)
19) 능력치에 대한 주의: 합의가 없으므로, 미래 AI의 능력 상한선에 대한 강한 가정은 피해야 합니다.
20) 중요성: 고급 AI는 지구 생명체의 역사에 중대한 변화를 나타낼 수 있으며 그에 상응하는 관심 및 자원을 통해 계획되고 관리되어야 합니다.
21) 위험 요소: AI 시스템이 초래하는 위험, 특히 치명적인 또는 실존적 위험은 예상되는 영향에 상응하여 대비하고 완화 노력을 기울여야 합니다.
22) 재귀적 자기 개선: 질과 양을 빠르게 증가시킬 수 있도록 스스로 개선 또는 복제할 수 있도록 설계된 AI 시스템은 엄격한 안전 및 통제 조치를 받아야 합니다.
23) 공동선: 초지성은 광점위하게 공유되는 윤리적 이상에만 복무하도록,그리고 한 국가 또는 조직보다는 모든 인류의 이익을 위해 개발되어야 합니다.
이 원칙은 연구 이슈 5개 항, 윤리와 가치 관련 13개 항, 장기 이슈 5개 항으로 총 23가지 원칙이 3개의 범주로 나뉘어 있다. 이 회의에는 100여 명이 넘는 인공지능 관련 전문가들이 참여해서 90% 이상의 참석자가 이 원칙에 동의한다는 서명을 했다.
- 인공지능 콘텐츠 혁명, 고찬수 -
