리만 가설, 제타 함수, 리만 가설이 풀리면 세계 모든 은행의 보안이 뚫린다라든지의 이야기를 들어 보신 적이 있으실 겁니다. 리만 가설이란 수학자 베른하르트 리만이 제시한 가설로 제타함수의 제로점이 일직선 상에 있다는 것인데요. 수학적으로 표현하면
리만 제타 함수 ζ(s)=0을 만족하는 모든 자명하지 않은 근의 실수부는 1/2 이다.
가 됩니다. 리만 제타 함수는 무엇이냐하면 n=자연수일 때
리만 가설의 시작은 오일러였습니다. 오일러는 소수의 배열에서 일정한 규칙성을 발견합니다. 그 후 가우스, 르장드르는 소수 정리를 발전시키죠. 그 최종판이 리만 가설입니다.
리만 가설은 사실 초기에 기피되는 문제였습니다. 영화 '뷰티풀 마인드'의 실제 주인공인 존 내쉬 교수가 리만 가설을 연구하다 조현병이 생겼기 때문이죠. 그렇게 한동안 기피되던 리만 가설은 수학자 몽고메리와 물리학자 다이슨의 만남에서 양자역학과도 관계성이 있음이 밝혀지고 다시 주목받게 됩니다.
리만 가설의 수학적 해석은 상당히 복잡합니다. 감마 함수, 세타 함수를 정의하고 정의역을 어떻게 설정하며 Re(s)>0에서 어떻게 analytic한지 보이는 등의 지루한 과정을 거쳐야 합니다. 수학자들은 이 지루한 과정을 더 지루하게 연장하여 복소수 근의 실수부가 1보다 작은 것을 증명하였고 그 외에도 여러가지 소수의 규칙들을 발견하였습니다. 그러나 리만 가설 그 자체만은 150년이 넘게 풀리지 않고 있습니다.
리만 가설의 풀리면 세계 모든 은행의 보안이 무력화된다는 말은 거짓입니다. 후에 다룰 P-NP 문제에서 또 나오겠지만 현대의 문제에는 시간 복잡도라는 것이 존재합니다. 시간 복잡도란 쉽게 얘기해서 컴퓨터가 이 문제를 푸는 시간이 얼마나 걸리냐라는 것인데 이 시간 복잡도가 지수함수가 된다면 컴퓨터로 연산이 불가능합니다. 문제를 풀기 위해서는 반드시 다항 시간 해법에 도달해야합니다. 현재까지 나온 리만 가설이 지수 함수 시간복잡도를 그것보다 작은 지수 함수 시간복잡도로 줄이긴 했지만 다항 시간 해법에 도달한다는 증거도 없을 뿐더러 학계의 정론은 '소수의 규칙성은 없다.'입니다. RSA 암호화를 풀기위해서는 소인수분해의 다항 시간 해법을 찾아야하는 것인데 리만 가설은 그것으로 직결되는 것이 아닙니다.
현실적으로도 리만 가설이 현재 도달한 범위는 10^25 이내입니다. 은행에서 사용하는 소수의 곱은 10^100 이상이죠. 은행의 암호 체계를 리만 가설로 뚫는 것보단 은행 강도를 하는 것이 더 빠를 것입니다.
그렇다면 리만 가설이 갖는 의의는 무엇일까요?
리만 가설의 의의는 수학자들이 리만 가설의 반증이나 증명에 가까이 다가가지도 못했다는 것에 있습니다. 저는 세상에 해결할 수 없는 문제는 없다고 믿습니다. 다만, 획기적인 풀이가 등장하지 않은 것이죠. 리만 가설의 증명 또는 반증은 새롭고 획기적인 방법을 학계에 가져다줄 것이고 그는 한 단계의 진보를 의미합니다.
위에서도 언급한 존 내쉬 교수는 내시 균형의 창시자로 노벨 경제학상 수상자입니다. 영화 '뷰티풀 마인드'를 보신 분은 알겠지만 존 내쉬는 조현병으로 시달립니다. 그 원인은 리만 가설이었습니다. 끝없는 고민은 충분히 사람을 미치게 하고도 남습니다. 수많은 수학자들이 도전했지만 모두 실패했습니다. 학계에서는 리만 가설을 풀면 영생을 얻을 수 있다고 말할 정도로 악명 높은 난제입니다.
얼마 전 증명된 페르마의 마지막 정리는 페르마의 '나는 이를 증명했으나, 여백이 적어 남기지 않겠다'라는 말로 유명합니다. 리만 또한 이를 증명할 수 있으리라 믿지만 아직 출판할 정도가 되지 않았다는 글귀를 남겼습니다. 페르마의 마지막 정리처럼 리만 가설도 언젠가 증명이 될까요? 모든 것이 급변하는 21세기 어쩌면 우리는 또 새로운 역사를 목격할지 모릅니다. 독자분들이 리만 가설을 증명할지도 모르는 일이죠. 리만 가설에 끝없이 도전하는 수학자들을 보며 우리 또한 각자의 꿈에 도전했으면 좋겠습니다. 스티미언 여러분이 꼭 꿈을 이루길 바라며 글을 마칩니다.
