경문수학산책 1 수학의 위대한 순간들 (4)|

31. 뛰어난 요약 : 에를랑겐 목록(1872년)
1872년에 에를랑겐 대학교의 철학교수와 이사로 임명을 받은 클라인은 그 취임강연에서 자신과 노르웨이의 수학자 리(Lie)의 연구결과에 근거하여 ‘기하학’에 대한 놀라운 정의를 발표하였다. 그것은 근본적으로 그 당시에 존재하였던 모든 기하학을 요약하였으며, 기하학에서 새롭고 풍요로운 연구방향을 제시하였다. 그 강연과 그것이 옹호한 기하학적 연구계획을 합쳐서 ‘에를랑겐 목록(Erlangen Programm)’이라고 부르게 되었다.
클라인은 기하학을 새롭게 정의하였다. “기하학은 집합 S의 원소들에 어떤 변환 군 Γ의 변환을 시행했을 때 변하지 않는 S의 성질에 관한 연구이다. 그와 같은 기하학을 기호로 G(S, Γ)와 같이 표기하기로 한다.”그러나 20세기에 들어오면서 클라인의 분류에 적합할 수 없는 기하학이라고 불러야 할 많은 수학적 문제들이 나타났다. 이와 같은 새로운 기하학들은 아인슈타인(Einstein)의 일반성대성이론에 의해서 구체화된 물리적 공간에 대한 현대적 이론에서 그 응용을 찾아온 것이다. 클라인의 원래 목록에 나타나지 않는 기하학을 포함하기 위하여 클라인의 정의를 확장하고 일반화하려는 노력이 부분적 성공을 거두고 있다. 일부 기하학자들은 클라인의 정의를 약간 수정한 정의를 선호한다. “기하학은 집합 S의 원소에 대한 어떤 변환 군 Γ의 변환을 시행했을 때 변하지 않는 S의 성질에 대한 연구이다. 그러나 그 성질은 Γ를 진부분군으로 포함하는 변환 군의 변환에 대해서는 불변이 아니다.”

 

32. 정당화된 피타고라스 : 해석학의 산술화와 수학의 기초로서의 자연수계(19세기 말)
유럽의 수학자들은 19세기 말에 만약에 자연수체계가 무모순이라면 모든 수학은 무모순이라는 사실을 밝혔다. 실제로 대단히 큰 수학체계는 자연수체계를 꼭지점으로 하여 교묘하게 균형을 잡고 있는 뒤집혀진 거대한 피라미드 같은 형상을 하고 있다는 사실이 밝혀졌다. 해석학 내에서 불합리와 모순이 축적되어감에 따라 수학의 발달은 두 번째의 위기를 경험하게 되었다.

이 두 번째 위기를 치료하기 위한 진정으로 통찰력 있는 제안은 달랑베르(d’Alembert)로부터 나왔으며, 미적분학의 엄밀화를 구체적으로 시도한 최초의 수학자는 라그랑주이었다. 19세기에 들어와서 해석학의 상부구조는 계속 커졌지만, 해석학의 기초는 더욱 어두워졌다. 그러던 차에 대단히 큰 진전이 1821년에 프랑스의 코시(Cauchy)에 의하여 이루어졌다. 그리고 해석학의 기초에 대한 조금 더 깊은 이해의 요구는 1874년에 결정적으로 나타났다. 독일의 수학자 바이어슈트라스(Weierstrass)에 의한 것이다. 바이어슈트라스는 먼저 실수체계를 논리적으로 전개하고, 다음에 극한개념, 연속성, 미분가능성, 수렴, 발산, 적분가능성 등을 실수체계를 이용해서 정의하자는 계획을 주장하였다. 두 부분으로 이루어진 이 뛰어난 계획을 ‘해석학의 산술화(arithmetization of analysis)’로 부르게 되었다.  바이어슈트라스 계획의 성공은 광범위한 영향을 끼쳤다. 먼저, 모든 해석학은 실수체계로부터 유도되기 때문에, 실수체계가 무모순이면 모든 해석학은 무모순이라고 증명되었다. 다음으로 바이어슈트라스 계획의 두 번째 부분은 오늘날 해석학에서 대단히 일반적으로 사용하고 있는 ‘엡실론-델타’과정의 도입으로 달성되었다.
자연수로부터 정수를 얻어낼 수 있고, 또 정수로부터 유리수를 얻어낼 수 있다. 그리고 유리수를 사용하여 무리수를 도입하여 완비실수체계를 얻어내는 단계별 전개는 이러한 도식으로 나타낼 수 있다.
N → I → Q → R → C
여기에서 N은 자연수체계, I는 정수체계, Q는 유리수체계, R은 실수체계, C는 복소수체계를 각각 나타낸다.
크로네커(Kronecker)는 말하였다.“신은 자연수를 만들었고, 그 나머지는 인간이 만들었다.”
     
33. 더 깊이 파고 내려가서 : 수학의 기초로서의 집합론(19세기 말), 추상공간(1906년), 집합론에 의한 함수 개념의 정제(20세기 초)
  정의 1. 두 집합 A와 B에 대하여, A의 각 원소에 단 하나의 B의 원소가 대응하고, B의 원소에 단 하나의 A의 원소가 대응하는 것과 같이 A의 원소와 B의 원소 사이의 짝짓기가 존재할 때 A와 B는 ‘일대일 대응관계(one to one correspondence))’에 있다고 말한다.
  정의 2. 두 집합 A와 B에 대해서 일대일 대응관계가 성립할 때 A와 B를 서로 ‘동치(equivalant)’라고 하고 A ∼ B와 같이 표기한다.
  정의 3. 서로 동치인 두 집합을 같은 ‘기수(cardinal number)’를 갖는다고 말한다.
  정의 4. 공이 아닌 집합의 기수가 기수 1, 2, 3, …… 가운데 하나일 때, 그 집합을 ‘유한집합(finite set)’이라고 하며, 공집합도 아니고 유한집합도 아닌 집합을 ‘무한집합(infinite set)’이라고 한다.
이러한 집합론이 무모순이라면 자연수체계와 많은 수학이 무모순이다. 이와 같이 집합론에 의하여 수학의 기초가 심화되었으며, 많은 수학적 개념이 집합개념과 집합표기에 의하여 상당할 정도로 일반화되고 간명하게 기술되었다.
프레셰(Frechet)는 1906년에 집합론의 도움으로 ‘거리공간(metric space)의 연구를 일반화하여 추상공간을 발견하였다.  
개별적인 집합이 아니라 연관을 맺고 있는 한쌍의 집합은 ‘함수(function)’와 ‘함수론(function theory)’으로 알려진 정교한 수학분야에 이르게 한다. ‘함수’라는 개념의 역사는 수학의 개념을 확장하고 일반화하려는 수학자들의 경향을 예시한다. ‘함수’는 라이프니츠에 의하여 곡선 위의 점의 좌표들, 곡선의 기울기, 곡선의 곡률반경 등과 같은 양을 표시하기 위하여 도입되었다.

 

34. 유한을 넘어서 : 초한수(1874∼1895년)
칸토어(Cantor)는 1874년에 집합론과 무한론에 대한 혁명적 연구에 착수하였는데, 이 연구로 완전히 새로운 수학연구분야를 발견하였다. 칸토어는 그의 논문들에서 구체적 무한에 대한 수학적 논법에 의거하여 ‘초한수론(theory of transfinite numbers)’을 전개하였으며, 유한수의 산술과 비슷한 초한수의 산술을 발견하였다. 무한집합의 기수를 ‘초한수’라고 하는데 이러한 수들에 대한 칸토어의 전개는 1895년까지의 그의 논문에 나타나 있다. 칸토어의 연구가 있기 전에는 수학자들은 기호 ∞로 표시되는 단 하나의 무한대만을 고려하였었으나, 칸토어의 연구에 의하여 완전히 새로운 견해에 의하여 무한대들의 측도와 산술이 이루어지게 된 것이다.
 
35. 주목할 만한 정의들 : 형식적 공리학(20세기 초)
‘형식적 공리학(formal axiomatics)’은 20세기 초에 개발되었다. 형시적 공리학은 일정한 양식을 가진다.
  (1) 논설은 원소들, 웡소 사이의 관계들, 원소들 위에서 시행되는 연산들에 대한 전문적 용어들을 포함한다. 이 전문적 용어들은 정의되지 않은 채로 임의로 선택된 것이며, 이것을 그 논설의 ‘기본적 용어’라고 한다.
  (2) 논설은 기본적 용어들에 대한 집합을 포함한다. 이러한 문장들은 증명되지 않은 채로 임의로 선택된 것이며, 그 논설의 ‘공준’ 또는 ‘공리’ P라고 부른다. (1)과 (2) 부분을 합하여 그 논설의 ‘기초’로 언급된다.
  (3) 논설의 다른 모든 전문적 용어들은 이미 도입된 용어들을 사용하여 정의된다.
  (4) 논설의 다른 문장들은 이미 받아들여졌거나 증명된 문장들로부터 논리적으로 유도된다. 이렇게 유도된 문장을 ‘정리’ T라고 한다.
  (5) 논설의 각 정리 T는 공준 P에 의하여 함의된다는 사실을 주장하는 어떤 대응하는 문장이 존재한다.
  (6) 공준들 P는 정리들 T를 함의한다.
이러한 양식에 따라 전개된 논설을 일부 수학자들은 ‘순수수학분야(branch of pure mathematics)’라고 불러왔다. 순수수학의 한 분야를 추상적으로 전개하는 것은 형식적 공리학이며, 반면에 주어진 응용수학의 한 분야를 구체적으로 전개하는 것은 실질적 공리학이다. 전자는 기본적 용어들에 대한 상술에 앞서서 공준들을 생각하고, 후자는 공준들에 앞서서 기본적 용어들을 해석하는 대상들을 생각한다. 그리고 전자에 있어서 하나의 공준은 단순히 어떠한 정의되지 않은 기본적 용어들에 대한 기초적 가정이고, 후자에 있어서 하나의 공준은 초기에 자명하거나 당연한 것으로 받아들여진 기초적 대상들의 성질을 표현한다.
형식적 공리학은 수학에 대한 가능성 있는 정의를 얻게 함으로써 수학이 무엇인가를 정확하게 인식하게 하였다. 
 
36. 명확하게 만드는 보기들 : 수학의 정의(20세기 초)
형식적 공리학에 의하여 짧은 논설을 전개하고, 그 다음에 그 논설의 기본적 용어들에 대한 적절한 해석을 통해서 그 논설에 대한 세 가지의 모형을 얻는다. 그리고 그에 따라서 가계, 기하학, 산술로 예시된 세 가지의 모형 또는 응용수학분야를 설명한다.
  
37. 셋째 수준 : 초수학(1899∼1920년)
공리적 연구에는 세 가지의 서로 다른 수준이 있다. 첫째 수준으로, 특별한 학문분야에 대한 구체적 공리적 전개가 있다. 이와 같은 전개는 실질적 공리학의 보기이다. 둘째 수준으로, 위와 같은 특별한 분야를 모형으로 갖는 추상적 공준적 전개가 있다. 이와 같은 전개는 형식적 공리학의 보기이다. 셋째 수준으로, 형식적이고 추상적인 공준적 전개가 소유하고 있는 성질을 연구하는 이론이 있다. 이 가운데에서 가장 높은 셋째 수준을 힐베르트(Hilbert)는 ‘초수학(metamathematics)’이라고 명명하였으며, 1899년에 출판한 ‘기하학의 기초(Grundlagen der Geometrie)’에서 비롯하여, 1920년에는 조직된 연구영역이 되게 하였다. 공준체계의 몇 가지의 성질은 이렇다.
  (1) 동치성
두 공준체계 P(1)과 P(2)에 대해서 각 체계가 다른 체계를 함의하면 그 두체계를 ‘동치’라고 말한다. 즉 각 체계의 기본적 용어들은 다른 체계의 기본적 용어들을 사용하여 정의될 수 있고, 각 체게의 공준들이 다른 체계의 공준들로부터 유도될 수 있으면, 그 두 체계를 동치라고 한다. 두 공준체계가 동치이면 그것에 의하여 수반되는 두 개의 추상적 연구는 물론 같고, 그것은 같은 것을 다른 방법으로 말하는 것에 불과하다.
  (2) 무모순성
어떠한 공준 집합에 의하여 모순되는 명제가 함의되지 않으면, 그 공준집합을 무모순이라고 부른다. 이 성질을 만족하지 않으면 그 공준은 근본적으로 가치가 없다.
  (3) 독립성
어떠한 공준 집합의 한 공준이 그 집합의 다른 공준들로부터 논리적으로 유도되지 않는다면 그 공준을 ‘독립적’이라고 말한다.
  (4) 절대성
공준 집합 P가 그에 대한 임의의 해석이 서로 동형이면 ‘절대적’이라고 한다. 이러한 절대성은 통상 그 공준 집합에 대한 임의의 해석은 어떠한 주어진 해석과 동형임을 보임으로써 증명된다. 어느 공준 체계가 절대성을 가지는 것은 장점이 있는 반면에 단점도 있다.
 
38. 산학의 한분야로서의 수학 : 괴델의 불완전성의 정리(1931년)
1931년에 괴델(Godel)은 ‘수학적 원리(Principia Mathematica) 및 그와 연관된 체계들의 형식적으로 결정할 수 없는 명제들에 대하여(Uber formal unentscheibare Satze der Principia Mathematica und verwandter System)’이라는 논문을 발표하였다. 이 논문은 공리적 과정에서 뜻하지 않은 한계를 분명하게 밝혀내었다.
  (1) 수학에 있어서 모든 중요한 분야들은 완전히 공리화할 수 있다는 믿음을 뒤집었다.
  (2) 힐베르트가 계획하였던 방법에 따라서 수학의 내적 무모순성을 증명하려는 모든 희망을 좌절시켰다.
  (3) 널리 보급되었던 수리 철학에 대한, 아직 완성되고 있지 않은, 재검토를 이끌었다.
  (4) 많은 연구분야를 제시하고 시작하게 만든, 새롭고 강력하며 풍부한 분석기법을 기초적 연구에 도입시켰다.
무모순인 어떠한 공준집합에 대하여 기본적 용어들을 확장하지 않고 주어진 공준들과 독립적이고 무모순인 또는 다른 공준을 그 공준집합에 추가하는 것이 불가능하면 그 공준집합을 ‘완전하다(complete)’라고 한다. 이러한 결과로 자연수계에 대한 페아노(Peano) 공준집합은 완전하다고 생각되었으며, 만약에 완전하지 않으면 하나 또는 그 이상의 또 다른 공준들을 추가함으로써 완전하게 만들 수 있을 것이라고 확신하였었다. 그러나 이러한 믿음은 괴델의 논문에서 나타난 정리에 의하여 의하여 산산이 부서졌다.
  (1) 첫째 정리 : 자연수계를 포함하는 무모순인 임의의 형식적 체계 F에 대하여, F안에 결정할 수 없는 명제들이 존재한다. 즉 F에는 언제나 그 안에서 S나 또는 ∼S를 증명할 수 없는 명제 S가 존재한다. 이에 따라서 자연수체계에 대한 임의의 공준집합은, 만약에 그것이 무모순이라면 완전하지 않다.
  (2) 둘째 정리 : 자연수체계를 포함하는 임의의 무모순인 형식적 체계 F에 대하여 F의 무모순성을 F안에서 증명할 수 없다. 이에 따라서 F에 있는 결정할 수 없는 문제 가운데 하나는 F의 무모순성에 대한 증명이 있게 되었다.
이로써 수학의 어떠한 중요한 분야에 대한 완전한 공리적 전개는 달성될 수 업으며, 수학의 어떠한 중요한 부분이 내적 모순으로부터 자유로울 수 있는 진정으로 완전한 보장은 있을 수 없다는 사실을 괴델의 두 정리는 밝혀 주었다.
  
39. 실현된 꿈 : 현대의 전자계산기(1944년), 4색 문제의 해결(1976년)
1812년에 영국의 수학자이자 기계론자인 베비지(Babbage)는 수표를 제작하는 데에 도움이 되는 기계를 제작하려는 생각을 가졌으며, 현대적인 모든 계산기의 기초가 되는 원리들을 발표하였다. 1820년에 콜마르(Colmar)는 밸셈과 나눗셈을 실행할 수 있는 기계를 만들었다. 1875년에 볼드윈(Baldwin)은 다시 조정하지 않고도 기본적 사칙연산을 실행할 수 있는 최초의 실용적 계산기에 대한 특허를 취득하였다.
배비지의 해석기관의 직접적 후예 가운데의 하나는 미 해군성과의 계약 하에 하버드 대학교와 IBM의 공동기획으로 제작된 Mark Ⅰ으로 알려진 ASCC(Automatic Sequence Controlled Calculator)이며, 이 기계는 1944년에 일반인에게 공개되었다. ASCC의 개량모델인 MarkⅡ는 1948년부터 해군 실험장에서 사용하기 위하여 제작되었다. ENIAC(Electronic Numerical Iinterator and C0mputer)은 육군 탄도학 연구소와의 계약으로 펜실바니아 대학교에서 1945년에 제작되었다. 1951년에 생산된 UNIVAC(Universal Automatic Computer)은 최초로 대량생산된 컴퓨터가 되었다. 이후로 몇 년마다 새로운 세대의 계산기들이 속도와 신빙성 및 기억력에 있어서 전 세대의 계산기를 능가하고 있다. 초고속 계산기들은 대부분 군사적 문제를 해결하기 위하여 설계되었지만,  오늘날의 계산기들은 은행, 기업, 정부, 공학 등 많은 목적으로 설계되고 있다. 배비지의 꿈은 확실하게 실현되었다. 그러나 π의 정구성과 비정규성에 관한 문제는 계산기에 의하여 결코 풀릴 수 없다. 여기에서 우리는 계산만에 의하여는 풀릴 수 없고 심오한 수학적 재능이 요구되는 이론적 문제의 한 보기를 갖게 된다. 이와 같은 문제들의 존재는 만연된 컴퓨터 증상에 대한 부분적 해독제를 제공하여 줄 것이다.    
계산기에 의하여 성취된 가장 감동적인 수학적 승리라고 할만한 것은 1976년에 있었던 ‘4색 문제(four-color problem)’의 해결이다. 1850년경에 영국의 거스리(Guthrie)는 영국의 지도에 있는 지역들을 구분하는 데에 네 가지 색이면 충분하다는 사실을 지적하였다. 그 후에 많은 수학자들이 4색 문제에 대하여 연구하였다. 1976년에 아펠(Appel)과 하켄(Haken)은 계산기를 사용한 어마 어마하게 복잡한 분석을 통하여 그 가설을 증명하였다. 이 증명은 놀라운 성과이기는 하지만, 계산기의 분석에 근거한 해법은 세련된 수학과는 상당한 거리가 있다. 그리고 이것은 수학의 일부 복잡한 문제들은 계산기를 통하여 접근하여야 한다는 생각을 갖게 하였으며, 수학에 대한 인간의 순수한 해법이 가능한 한계를 명확하게 해 줄 수 있을 것이다. 

[출처] 경문수학산책 1 수학의 위대한 순간들 (4)|작성자 얼쑤