예전에 다른 곳에서 썼던 글인데 이제 블로그로 옮깁니다. 이 글을 이끄는 두 가지 의문은 다음과 같습니다.
- 한 변의 길이가 1인 정사각형의 면적은 왜 1인가?
- 왜 면적이라는 단순해 보이는 개념이 20세기에 와서야 수학적으로 엄밀하게 확립되게 되었을까?
궁금하다면 읽어보시길. 좀 깁니다만...^^; 단 이 글의 수학적 내용은 정확하겠지만 '철학적 해석'은 아마추어의 직관(혹은 직업적인 감?)일 뿐이라는 점을 감안해 주시기 바랍니다.
들어가며 : 수학적 개념의 위상
- 많은 사람들이 당연하게 받아들이는 수학의 개념 중에는, 조금만 다르게 생각해 보면 전혀 당연해 보이지 않아 당황스러운 것들이 많다. '직선'이 대표적인 예이다. 보통 직선은 '폭이 없는 길이'라고들 하는데, '폭'은 뭐고 '길이'는 무엇인지 캐물어보면 대답이 궁색해지기 마련이다. '벡터'도 마찬가지로, 보통 벡터는 '방향이 있는 크기'라고 하지만, '방향'은 무엇이고 '크기'는 또 무엇이란 말인가. 여기서 중요한 것은 폭, 길이, 방향, 크기 등은 모두 일상용어로서 나름대로 통용되는 의미가 있지만, 수학이 요구하는 엄밀한 정의의 요건을 만족시키지 못한다는 것이다.
- 그렇다면 수학이 요구하는 엄밀한 정의란 무엇인가? 흔히 그것은 누구나 혼동의 여지 없이 그 뜻을 명확하게 이해할 수 있어야 한다는 것이라고들 한다. 얼핏 그럴듯 해 보이는 말이지만, 사실 이 말은 옳지 않다. 왜냐하면 어떤 단어에 '뜻'이 있는 한, 이 뜻은 다른 단어를 통해 설명되어야만 하고, 그 순간 우리는 무한 순환에 빠지기 때문이다. 19세기 말에 들어 수학이 점점 복잡해지면서 전통적인 직관적 방식의 수학에 대한 이해는 한계에 부딪치기 시작했고, 수학의 발전을 위해서 무언가 다른 대안이 절실히 요구되었다. 수학자들이 내 놓은 (적어도 현재까지는 성공적인) 해결책은 수학의 정의에서 '뜻'을 없애버리는 것이었다.
- 이는 기호논리, 공리주의와 집합론에 의해 달성되었다. 공리는 기호의 조합으로 표현되는 합의된 규칙이다. 특히 체르멜로와 프랭켈에 의해 집합론의 공리계가 확립된 이후, 수학의 모든 대상은 집합으로 표현되게 되었다. 수도 집합이고, 함수도 집합이고, 도형도 집합이다. ''집합이란 무엇인가? 집합은 집합론의 공리계를 만족하는 그 무엇이다. 집합론의 공리계란 무엇인가? 집합론의 공리계는 특정한 기호의 체계이다. 철학자들은 여기서 기호가 무엇인지 더 파고들어 가겠지만, (대부분의) 수학자들은 거기에서 멈춘다. 기호는 그냥 기호다. 여기에 의미란 없다. 단지 정합성만이 있을 뿐이다.
- 그러나 사태는 그렇게 단순하지만은 않다. 게임의 규칙 자체에는 의미가 없지만, 왜 그런 규칙을 만들었는지를 묻고, 어떤 규칙이 더 재미있는 게임을 만들지를 연구하는 것은 의미가 있기 때문이다. 수학에서 공리계를 만드는데도, 수학적 대상에 대한 논리 이전의 직관이 분명히 영향을 끼친다. 더군다나 괴델의 불완전성 정리는 가장 단순한 자연수도 공리계에 의해 완전하게 표현하는 것은 불가능하다는 사실을 보여주었다. 가장 논리적이라는 수학도 논리 이전의 직관을 완전히 배제할 수는 없는 것이다.
- 그렇다면 논리와 직관 사이의 이 불일치를 어떻게 해결해야 할까? 역시 이것은 철학의 문제가 되므로 대부분의 수학자들은 이미 확립된 공리체계 안에서 연구하는 것에 만족한다. 그러나 개인적인 견해와 시각은 생기기 마련이다. 나의 생각은 수학적 대상이(실체라고 말할 수 있는지는 모르겠지만) 수학의 논리적 구조와 독립된 존재성을 가지고 있다는 쪽에 가깝다.(이것은 괴델의 견해이기도 하다.) 사람들은 누구나 예컨대 자연수나 직선에 대한 개념과 직관을 가지고 있다. 그걸 불완전한 일상언어로 표현하려다보니 폭이 없는 길이니 하는 규정들이 나오는 것일 것이다. 수학의 엄밀한 공리계는 이러한 직관의 본질을 최대한 논리적 정합성의 기준에 맞춰 표현해 내려는 인간의 노력이 아닐까.
수학적 개념으로서의 면적 (1) : 면적 개념의 구축
- 그렇다면 우리는 면적이라는 개념을 어떻게 수학적으로 올바르게 표현할 수 있을까? 놀라운 사실은, 우리가 그렇게 일상적으로 자연스럽게 면적이라는 개념을 사용하면서도, 막상 면적의 정의를 내리는 것은 간단하지가 않다는 점이다. 어떤 도형의 면적이란 무엇인가? 그 도형이 공간에서 차지하는... 넓이? 직선의 경우는 '폭이 없는 길이'라는 임시방편의 정의라도 생각해 낼 수 있는 반면, 면적은 어떻게든 정의를 내리는 것 자체가 힘들게 느껴진다.
- 지금 우리가 해야할 일은, 면적에 대한 우리의 직관을 논리적으로 올바르게 풀어낼 수 있는 체계를 찾는 일이다. 사방으로 무한히 펼쳐진 평면(2차원 유클리드 공간)을 생각해보자. 이 평면 위의 각 '도형'(measurable set) A에 대해 우리는 그 도형의 '면적'(measure) m(A)가 얼마라는 말을 한다. 즉 면적이란 평면 위의 도형들의 집합에서 0보다 크거나 같은 실수의 집합(무한대 포함) [0, ∞]으로 가는 함수 m의 함수값이다.
- 이 함수 m은 우리가 면적에 대해 가지고 있는 직관과 일치하는 몇 가지 성질을 만족해야 한다. 우선 두 도형 A, B가 서로 '포개진다면'(congruent) 두 도형의 면적은 같아야 할 것이다.
| (1) 만일 A와 B가 서로 포개지면, m(A) = m(B)이다. |
한편 도형 A가 도형 B 안에 완전히 포함되어 있다면, A의 면적보다 B의 면적이 크거나 같아야 할 것이다.
| (2) 만일 A가 B에 포함되어 있으면, m(A) ≤ m(B)이다. |
| (3) 만일 A와 B가 겹치지 않으면, m( A∪ B ) = m(A) + m(B)이다. |
(사실 (3)은 (3)'과 (4)의 결과이고, (2)는 (3)의 결과라는 것을 쉽게 보일 수 있다. 따라서 면적함수 m이 만족시켜야 하는 조건은 (1), (3)', (4)이면 충분하다.)
수학적 개념으로서의 면적 (2) : 직사각형의 면적과 면적 개념의 완성
- 자, 이제 우리는 문제의 핵심에 거의 접근했다. 마지막 관건은 바로 직사각형의 면적이 무엇인가 하는 문제이다. 많은 사람들이 두 변의 '길이'가 각각 a, b인 직사각형의 면적은 당연히 ab여야 한다고 생각한다. 하지만 왜 그런가? 과연 이것은 당연한가?
- 왜 그런가? '만일 한변의 길이가 1인 정사각형 A의 면적 m(A)가 1이고, 면적함수 m이 (1)-(4)의 성질을 만족한다면', 두 변의 길이가 각각 a, b인 직사각형 B의 면적 m(B)는 ab이어야한다. 이 명제를 증명해보도록 하자. 만일 a, b가 자연수라면 이것은 직사각형 B를 한 눈의 길이가 1인 바둑판 모양으로 분할한 후 성질 (1), (3)을 적용하여 증명된다. 만일 a, b가 유리수라면 역시 비슷한 논법으로 증명할 수 있다.(어떻게 증명해야할지 생각해보라) 마지막으로 만일 a 또는 b가 무리수라면, 일반적으로 무리수 x는 x보다 큰 유리수 집합보다 작고 x보다 작은 유리수집합보다 큰 유일한 실수이므로 (유리수의 조밀성), 성질 (2)와 a, b가 유리수일 경우에 대한 이전 단계의 증명에 의해 증명된다. 따라서 a, b가 임의의 실수일때 우리는 m(B) = ab라는 사실을 알 수 있다.
- 그러므로 m(B) = ab라는 '사실'은 m(A) = 1이라는 '사실'이 당연한 바로 그만큼만 당연하다. 그러면 m(A) = 1은 당연한 사실인가?
- 이 시점에서 앞 단락에서 제시한 면적함수의 성질 (1)-(4)를 다시 검토해 보도록 하자. 이 성질들의 핵심적인 특징은 (4)를 제외한 나머지 모두가 한 도형의 면적에 대한 성질이 아니라 서로 다른 두 도형의 면적 사이의 관계에 대한 성질이라는 점이다.(다른 한 가지 중요한 특징은 면적은 본질적으로 '더하는' 것이라는 것이다. 이것은 나아가서 적분의 근본적인 원리가 된다.) 즉, 면적이란 그 자체로 의미를 갖는 절대량이 아니라, 비교에 의해서만 의미를 갖는 상대량인 것이다. 그러므로 m(A) = 1은 당연한 사실이 아닌 임의적인 규정에 불과하다. 그러나 일단 m(A)의 값을 특정하는 순간 다른 모든 도형의 면적은 (A의 면적과 비교해서) 결정된다. 이것을 수학에서는 다음의 정리로 표현한다.
| 정리. (1), (3)', (4)의 조건을 만족하고 m(A) = x인 함수 m은 유일하게 존재한다. |
(사실은 measurabl set의 성질에 대한 테크니컬한 조건(completeness)을 덧붙여야 한다.)
m(A) = 1인 m을 m₁이라고 하자. 이 m₁이 우리가 일상적으로 사용하는 면적함수로서 수학적으로는 이차원 유클리드 공간의 르벡 측도라고 한다. (르벡은 측도론을 만든 수학자 이름) 그러면 다른 모든 면적함수 m들은 m₁의 상수배로 표현되게 된다.
| 따름정리. m이 (1), (3)', (4)의 조건을 만족하고 m(A) = x 이면, m = xm₁이다. |
맺으며 : 수학과 철학
- 이상 면적이라는 직관을 현대 수학에서 어떻게 논리적으로 개념화하는지를 간략하게 서술해 보았다. 여기서 우리는 (1) 직관에서 출발하여 (2) 핵심 성질을 추출하여 기호체계를 세운 다음 (3) 존재성과 유일성을 증명하는 세 단계를 거쳤음을 알 수 있다. 이 과정을 통해 우리가 얻은 것은 현실의 논리 정연한 모델인가? 그런 측면도 있지만 사실 우리가 한 것은 현상을 판단하는 우리의 개념틀 자체를 정합적으로 정비한 것에 가깝다.
- 구체적으로 이 경우 핵심적인 통찰은 면적이 자체로 의미가 있는 것이 아니라 관계 속에서만 의미를 갖는다는 점이었다. 이는 단어의 뜻이 다른 단어와의 차이 속에서만 존재한다는 구조주의 언어학의 통찰과도 상통하는 면이 있다. 아마도 수학에서의 공리주의와 언어학에서의 구조주의가 비슷한 시기에 발전한 것도 우연이 아니었을 것이다. 그렇다면 인류가 19세기까지도 비교적 단순한 개념인 면적을 제대로 이해하지 못했던 까닭도 이해가 된다. 그때까지 인류는 면적을 제대로 다룰 수 있는 개념틀 -- 철학을 가지지 못했던 것이다.
☞ 내 이글루에 이 글과 관련된 글 쓰기 (트랙백 보내기) [도움말]
단위면적을 정사각형으로 잡지 않고, 원으로 잡고서 시작해서 같은 결론을 어떻게 구성해 낼 수 있을까요?