[차한잔] 만능 기계에대한 꿈과 좌절, 그리고 반전 -힐베르트, 괴델, 튜링
1900년 파리 세계 수학자 대회에서 38세였던 다비트 힐베르트(1862~1943)는 20세기 수학의 가장 큰 과제를 선별, 23개의 힐베르트 문제들을 발표합니다.
그중 핵심이라면 2번인 ‘산술의 공리들이 무모순임을 증명하라’죠.
모호하고 불확실해 보이기만 하던 세계는 아이작 뉴턴(1643~1726) 이후 체계적이고 합리적으로 분석 가능해 보이게 되었어요. 지상과 천체의 움직임을 해석해낸 뉴턴 물리학의 성과가 대중들에게까지 전파된 것은 아니었지만 학자들 사이에선 좀만 더 노력하면 세계가 돌아가는 원리를 확실히 알아낼 수 있을 것 처럼 느껴졌죠.
이런 분위기를 여실히 보여주는 것이 피에르 시몽 라플라스(1749~1827)의 ‘라플라스의 악마’ 가설이에요. 우주 속 모든 원자의 정확한 위치, 운동량을 알고 있는 존재(악마)가 있을 경우 뉴턴의 운동법칙을 이용해 과거, 현재의 모든 현상을 설명 가능하며 미래 마저 예언 가능하다는 가설이죠.
게다가 때는 1900년. 희망이 감도는 세기초잖아요.
힐베르트는 가장 순수하고 모든 과학의 토대가 된다고 생각되는 수학을 완전하게 재구축하고 그를 통해 모순없이 모든 문제들을 풀어내는 만능의 공식체계를 찾고 싶어했어요. 세계의 수학자들도 그와 함께 꿈과 희망으로 불타올랐죠.
철학, 수학계의 마당발 버트런드 러셀(1872~1970)은 앨프리드 노스 화이트헤드(1861~1947)와 함께 순수 수학의 모든 진술을 형식화하기 위해 ‘수학원리’(1910-1913)란 책을 만들어냅니다.
1 + 1 = 2가 과연 맞는가? 어떻게 하면 보다 정확히 표현할 수 있는가? 등의 문제를 수리 논리학으로 풀어내려는 시도였죠. 군더더기가 끼어들기 쉬운 논리학의 명제들을 수학적 기호로 전환시켜 보다 정교하고 순수하게 만들려는 시도였던 걸로 보여요.
힐베르트의 문제들 중 소소한 몇개가 풀리고 ‘수학원리’도 발간되며 알베르트 아인슈타인(1879~1955)의 상대성이론(특수: 1905, 일반: 1915)이 발표되는 등 희망이 부풀어오르던 와중 세계 1차 대전(1914-1918)이 터집니다.
수많은 무덤과 잿더미를 만들어낸 1차대전이 끝나고 아직 뒤숭숭한 분위기이던 1930년 힐베르트는 자신의 30년 정년퇴임 기념 연설에서 "Wir müssen wissen, Wir werden wissen.(우리는 알아야만 한다, 우리는 알게 될 것이다.)”란 감동적인 연설을 합니다.
하지만 바로 1년 뒤인 1931년, 25살의 젊은 청년 쿠르트 괴델(1906~1978)이 <「수학원리」와 관련 체계들의 형식적으로 불가능한 명제들에 관하여(On Formally Undecidable Propositions of Principia Mathematica and Related Systems)>라는 논문을 발표합니다. 이 논문 속 제 2 불완전성 정리로 산술의 공리계가 자신의 무모순성을 증명할 수 없다는 걸 증명해냅니다.
수학의 완전함, 무모순성을 보이고 만능 계산기를 만들어 세계를 낱낱이 파헤쳐 보려던 힐베르트와 수학자들의 대야망이 꺾인 순간이에요.
한데 괴델은 이 논문속에서 논리적 명제들을 모두 숫자로 전환시키는 놀라운 방법을 보여주는데 이 기법은 앨런 튜링(1912~1954)에게 영향을 주게 됩니다. 튜링은 이 기법을 활용하고 더욱 발전시켜 1936년 24살의 나이로 <계산 가능한 수들에 관하여, 결정문제에의 응용(On Computable Numbers, with an Application to the Entscheidungsproblem)>이란 석사 논문으로 힐베르트가 1928년 새롭게 제안했던 문제인 결정가능성 문제를 풀게 됩니다.
튜링은 이 논문에서 증명을 위해 가상의 튜링머신을 만들고 이를 통해 결정가능성을 부정적으로 증명해냅니다. 한데 이 튜링머신은 현대 컴퓨터를 만드는데 필요한 거의 모든 이론적 토대를 제공하는 내용을 담고 있었어요.
이후 튜링머신은 현재의 컴퓨터로 만들어졌고 이 컴퓨터는 ‘거의’ 모든 문제를 풀어내는 ‘거의’ 만능 계산 기계가 됩니다. 아이러니죠. 만능 계산 기계를 만들려는 시도를 박살낸 이론들이 토대가 되어 ‘거의’ 만능 계산 기계가 생겨난 겁니다.
| 글쓰기 |
괴델에 관해서는 네이글의 고전부터 요시마사와 박정일의 입문서, 케스티와 골드슈타인의 저서를 모두 읽었는데 이론의 개요를 깨치기까지 정말 노력이 필요했습니다. 덕분에 컴퓨터의 기본 원리나 인간의 사고 원리에 대해서도 관심이 많이 생겼죠. 호프스테터는 네이글이 아버지 친구여서 이걸 14살 때 읽고 감명받았다는데 정말 좌절감이 들더군요.ㅋㅋ 이 역설의 문제(그리고 이것을 조망하는 가장 큰 무기인 귀류법!)는 비단 괴델의 문제 뿐 아니라 생명복제의 원리나 인생의 가장 큰 비밀 같은 것도 연관이 되어있어서 제 평생의 생각할 거리라고 생각합니다. 제가 가장 좋아하는 에코의 소설이 <푸코의 진자>인데, 이 소설에서도 바로 자기언급적 명제의 모순이 중요한 모티프로 작용하는 것 같더군요.
첨언하면 괴델 이론의 함의에 대해서는 리베카 골드슈타인의 책이, 튜링의 이론에 대해서는 박정일의 책이 가장 서명이 명쾌했습니다. 케스티는 정말 저명한 대중수학자인데 괴델 책은 좀 별로였고요.