계산 기계와 지능 by 앨런 튜링 (번역 연재 14회, 최종회)

"우리는 눈앞의 가까운 것만 볼 수 있다. 하지만 해야 할 일이 많다는 건 볼 수 있다." (튜링)

드디어 번역이 끝났습니다. 2018년 2월 27일 첫 번역을 올린 지 19일째입니다. 총 14회에 걸쳐 스팀잇에 독점 연재했습니다. 지켜봐 주신 모든 분들께 고마움을 전합니다. 끝까지 오는 데 많은 힘이 되었습니다. 댓글, 리스팀, 보팅도 큰 힘이었습니다.

연재가 끝났으니, 우선 짧은 소감 글을 내일 올리겠습니다. 일종의 경과 보고입니다. 그리고 조만간 다시 꼼꼼하게 검토한 후 주석을 붙여 하나의 포스팅에 정리할 생각입니다. 오류, 제안, 의견, 질문 등을 댓글로 자유롭게 달아 주시면 고맙겠습니다.

안녕하세요. 아직도 뉴비 @armdown 철학자입니다.

이번 포스팅은 '계산 기계와 지능 by 앨런 튜링' 연재의 마지막, 14회입니다. 200자 원고지 182매 분량의 꽤 긴 번역이 끝났습니다.

이번 7절은 '인공지능을 어떻게 만들 것인가' 하는 핵심 논점이 다뤄집니다. 2회로 나누어서 올립니다. 그 2회차입니다.

1회 2회 3회 4회 5회 6회 7회 8회 9회 10회 11회 12회 13회

아는 사람은 다 아는 사실인데, 인공지능의 논리적, 수학적 개념이 처음 제시된 것은 앨런 튜링의 1950년 논문 “계산 기계와 지능”입니다. 그런데 아쉽게도 이 논문은 아직 한국어로 된 쓸 만한 번역이 없습니다. 제가 번역을 시작한 배경에 대해서는 연재의 첫 포스팅을 참조하기 바랍니다.

---

계산 기계와 지능 (번역 연재 13회)

앨런 튜링

7. 학습하는 기계 (2/2)

처벌들과 보상들의 사용은 기껏해야 가르침 과정의 일부일 수 있다. 거칠게 말해서, 교사가 학생에게 소통할 다른 수단이 없다면, 학생에도 도달할 수 있는 정보의 총량은 적용된 보상과 처벌의 전체 수를 넘지 않는다. ‘틀린 답NO’이면 한 대씩 맞는 형식을 띤, 정답text을 ‘스무고개’ 기법으로만 발견할 수 있게 한다면, 아이가 ‘카사비앙카’를 반복하도록 배울 즈음에는, 아이는 아마 정말 많이 쓰라릴 것이다. 따라서 다른 ‘비감정적인unemotional’ 소통 채널이 꼭 필요하다. 다른 채널을 이용할 수 있다면, 뭔가 언어로, 가령 기호 언어symbolic language로 주어진 명령에 복종하도록 처벌과 보상을 통해 기계를 가르치는 게 가능하다. 이 명령은 ‘비감정적인’ 채널을 통해 전송될 것이다. 기호 언어의 사용은 필요한 처벌과 보상의 수를 크게 줄일 것이다.

아이 기계에게 적절한 복잡성에 관해서는 의견이 분분할 것이다. 어떤 이는 일반 원리와 정합적이라면 아이 기계를 가능한 한 단순하게 만들려고 노력할 것이다. 그 대신 다른 이는 논리 추론의 완벽한 체계를 ‘내장built in’[* 튜링의 각주]시킬 것이다. 후자의 경우에 저장소는 주로 정의와 명제로 채워질 것이다. 명제들은 가령 잘 확립된well-established 사실, 추측, 수학적으로 증명된 정리, 권위에 의한 진술, 논리적 명제 형식을 띠지만 믿을 수는 없는 표현 등 다양한 종류의 상태status를 가질 것이다. 어떤 명제는 ‘명령문imperative’으로 기술될 수 있다. 기계는 명령문이 ‘잘 확립된’ 사실로 분류되자마자 적합한 작용이 자동으로 일어나도록 건설되어야만 한다. 이를 예시를 통해 설명해 보겠다. 교사가 ‘지금 숙제를 해라.’라고 기계에게 말한다고 하자. 이것은 “교사는 ‘지금 숙제를 해라.’라고 말한다.”가 잘 확립된 사실에 포함되게끔 할 것이다. 또 다른 잘 정립된 사실은 “교사가 말하는 모든 것은 참이다.”가 있을 것이다. 이 두 사실의 결합은 마침내는 “지금 숙제를 해라.”라는 명령문으로 이어지는데, 이 명령문은 잘 확립된 사실에 포함될 것이고, 이는 기계를 건설하게 되면 숙제가 실제로 시작되고 그 효과도 아주 만족스럽다는 것을 의미할 것이다. 기계에 의해 사용된 이 추론 과정은 가장 정확한 논리학자를 만족시킬 그런 정도일 필요는 없다. 가령 유형의 위계가 없을지도 모르겠다. 하지만 이것이 유형 오류type fallacies가 일어나리라는 것을 의미할 필요는 없다. 울타리가 없다고 절벽으로 떨어지라는 법은 없듯이 말이다. ‘교사에 의해 언급된 부류class의 하위 부류sub-class가 아니라면, 그런 부류는 사용하지 말라’ 같은 (체계 안에서within 표현되었지만 체계의 규칙의of 일부를 이루는 건 아닌) 적절한 명령문은 ‘끝머리edge 근처에 너무 가까이 가지 말라’와 유사한 효과를 가질 수 있다.
[각주] 또는 차라리 우리의 아이 기계를 위해 ‘내적으로 프로그래밍programmed in’된 것은 디지털 컴퓨터에 프로그래밍될 것이다. 하지만 논리 체계는 학습시킬 할 필요가 없다.

사지가 없는 기계가 복종할 수 있는 명령문은 위에서 보았던 예(숙제하기)에서처럼 다소 지적 성격을 가질 수밖에 없다. 그런 명령문들 중에서 중요한 것은, 해당 논리 체계의 규칙이 적용될 순서order를 규제하는 명령문일 것이다. 논리 체계를 사용할 때 각 국면stage마다 아주 많은 수의 대안 단계alternative steps가 있고, 논리 체계의 규칙에 대한 복종이 관건인 한, 그 단계 중 어느 것이라도 적용하는 게 허용되니 말이다. 이러한 선택은 바른 추론자와 엉터리 추론자의 차이가 아니라 뛰어난 추론자와 시시한 추론자의 차이를 낳는다. 이런 종류의 명령문에 이르는 명제는 ‘소크라테스가 언급되면, 바바라의 삼단논법syllogism in Barbara을 사용하라.’나 ‘어떤 방법이 다른 방법보다 빠르다는 게 증명되었다면, 더 느린 방법은 사용하지 마라.’ 같은 것이리라. 이런 종류의 몇몇 명제는 ‘권위에 의해 주어질’ 수 있지만, 또 다른 명제는 기계 자체에 의해, 가령 과학적 귀납에 의해 생산될 수 있다.

학습하는 기계라는 아이디어는 어떤 독자들에겐 역설적으로 보일지 모른다. 기계의 작동 규칙들이 어떻게 변할 수 있을까? 규칙들은 기계의 역사가 어떻건, 기계가 어떤 변화를 겪건, 기계가 그에 어떻게 반응할지 완전히 기술해야 한다. 따라서 규칙들은 시간 불변적time-invariant이다. 참으로 맞는 말이다. 그 역설은 이렇게 설명된다. 학습 과정에서 변하는 규칙들은 단지 하루살이 목숨의 타당성an ephemeral validity만을 주장하기에 좀 덜 건방진 종류의 규칙들이다. 독자는 미국 헌법과의 유사성을 비교해볼 수 있으리라.

학습하는 기계의 중요한 특징은, 교사가 어느 정도는 학생의 행동을 예측할 수 있을지라도 안에서 벌어지는 일을 종종 대체로 모를 것이라는 점이다. 이것은 잘 시도된 디자인(또는 프로그램)을 갖춘 아이 기계에서 생겨난 기계의 차후 학습에 아주 강하게 적용해야 한다. 이것은 기계를 계산하는 데 사용하는 정상적인 절차와 또렷하게 대조된다. 후자에서 목적은 계산의 각 순간마다 기계의 상태에 대한 또렷한 마음 속 그림mental picture을 갖는 것이니까. 이 목적은 몸부림을 쳐야만 달성될 수 있다. ‘기계는 우리가 어떻게 명령해야 그것이 행할지를 알고 있는 것만을 할 수 있다’[* 튜링의 각주]는 견해는 이 점을 마주하고 보면 이상해 보인다. 우리가 기계에 집어넣을 수 있는 대부분의 프로그램은 우리가 전혀 이해하지make sense of 못할 것을, 또는 우리가 완전히 무작위 행동이라고 여기는 것을 행하는 결과를 낳을 것이다. 짐작컨대 지적 행동은 계산에 연관된 완전히 훈육된 행동에서 벗어나는 데서 성립하지만, 그 벗어남은 무작위 행위나 무의미한 반복 순환을 일으키는 건 아닌 약간의 벗어남이다. 흉내 게임 쪽에서 보면 가르침과 학습의 과정을 통해 우리의 기계를 준비하는 것의 또 다른 중요한 결과는 ‘인간의 틀릴 가능성’이 다소 자연스런 방식으로, 즉 특수한 ‘지도coaching’ 없이 해소될omitted 법하다는 점이다. (독자는 이것을 24, 25쪽의 관점과 조화시켜야 한다.) 학습된 과정은 100% 확실한 결과를 생산하지는 않는다. 만약 그렇다면, 학습되지 않는 일은 불가능하리라.
[각주] 러브레이스 백작부인의 진술과 비교하라(p. 450). 그 진술에는 ‘만을’이라는 낱말이 없다.

학습하는 기계에 무작위 요소를 포함시키는 것이 아마도 현명하리라(p. 438을 보라). 무작위 요소는 우리가 어떤 문제의 답을 찾고 있을 때 다소 유용하다. 가령 우리가 50과 200 사이에서 각 자리수의 합의 제곱과 같은 수를 찾으려 한다고 해 보자. 우리는 51에서 시작해서 52를 시도하고 이렇게 계속 해가다가 답에 해당하는 수를 얻게 될 것이다. 아니면 우리는 정답을 얻을 때까지 무작위로 수를 고를 수도 있다. 이 방법은 이미 시도했던 값을 계속 알고 있어야 할 필요가 없다는 이점이 있지만, 같은 값을 두 번 시도할 수도 있다는 단점이 있는데, 이것은 해답이 여럿이라면 그다지 중요하지 않다. 체계적 방법은 처음 조사해야 하는 영역에 아무 해답도 없는 엄청 큰 블록이 있을 수 있다는 단점이 있다. 이제 학습 과정은 교사(또는 다른 기준)를 만족시킬 행동 형식을 찾는 것으로 간주될 수 있다. 만족스러운 해답이 아마 아주 많을 것이기에, 무작위 방법이 체계적 방법보다 더 나아 보인다. 진화라는 이와 유사한 과정에서 무작위 방법이 사용된다는 점에 유의해야 한다. 하지만 거기에서 체계적 방법은 가능하지 않다. 한 번 시도했던 것을 다시 하지 않기 위해 어떻게 해야 시도된 적 없는 상이한 유전적 조합을 계속 알고 있을 수 있을까?

우리는 결국은 순수하게 지적인 모든 영역에서 기계가 인간과 경쟁하리라고 희망할 수 있다. 하지만 어떤 영역에서 시작하는 것이 가장 좋을까? 이것마저도 어려운 결정이다. 많은 사람들은 체스 놀이 같은 가장 추상적인 활동이 최선이리라고 생각한다. 또 돈으로 살 수 있는 가장 좋은 감각 기관을 기계에게 부여해서, 영어를 이해하고 말하게 가르치는 것이 최선이라는 주장도 가능하다. 이 과정은 아이를 가르치는 정상적인 경로를 따를 수 있을 것이다. 사물을 가리키면서 이름을 붙이는 등 말이다. 또 한 번 나는 무엇이 정답인지 모른다. 하지만 두 접근 모두 시도되어야 한다고 생각한다.

우리는 눈앞의 가까운 것만 볼 수 있다. 하지만 해야 할 일이 많다는 건 볼 수 있다.

참고문헌
Samuel Butler, Erewhon, London, 1865. Chapters 23, 24, 25, The Book of the Machines.
Alonzo Church, ‘‘An Unsolvable Problem of Elementary Number Theory’’, American Journal of Mathematics, 58 (1936), 345–363.
K. Gödel, “Über formal unentscheidbare Sätze der Principia Mathematica und verwandter Systeme I’’, Monatshefte für Mathematik und Physik (1931), 173–189.
D. R. Hartree, Calculating Instruments and Machines, New York, 1949.
S. C. Kleene, ‘‘General Recursive Functions of Natural Numbers’’, American Journal of Mathematics, 57 (1935), 153–173 and 219–244.
G. Jefferson, ‘‘The Mind of Mechanical Man’’. Lister Oration for 1949. British Medical Journal, vol. i (1949), 1105–1121.
Countess of Lovelace, ‘Translator’s notes to an article on Babbage’s Analytical Engine’, Scientific Memoirs (ed. by R. Taylor), vol. 3 (1842), 691–731.
Bertrand Russell, History of Western Philosophy, London, 1940.
A. M. Turing, ‘‘On Computable Numbers, with an Application to the Entscheidungsproblem’’, Proc. London Math. Soc. (2), 42 (1937), 230-266.

Victoria University of Manchester.

(끝)