지난호(제875호)에서는 유클리드기하학에 대해 다루었습니다. 그 과정에서 유클리드기하학은 불필요한 전제를 최소화해 어떤 사실을 설명하고자 할 때 반드시 그러한 전제들로만 혹은 전제들로 이미 증명된 사실만 사용하는 학문적 구조를 지니고 있다고 했습니다. 여담이지만 이러한 학문적 구조는 상당히 세련된 형태이며 과학적 접근법과 함께 논리적 추론을 이끌어내는 아주 중요하고 유용한 사고방식입니다.

따라서 꼭 필요한 전제, 즉 기하학의 근원적 사실로서 다른 것들로 증명 불가능하고 논리를 전개하기 위해 당연히 옳다고 여겨지는 것을 지니고 있습니다. 이를 공준이라고 하는데, 유클리드는 총 5개의 공준을 제시합니다.

이 공준을 자세히 살펴보면 점, 선, 각 등을 무엇이라고 정의하는 것이 아닙니다. 그 자체가 가지고 있는 성질을 설명하는데, 원문에 가깝게 표현하자면 다음과 같이 쓸 수 있겠습니다.1. 서로 다른 두 점이 주어졌을 때, 그 두 점을 잇는 직선을 그을 수 있다.

2. 임의의 선분은 더 연장할 수 있다.

3. 서로 다른 두 점 A, B에 대해, 점 A를 중심으로 하고 선분 AB를 한 반지름으로 하는 원을 그릴 수 있다.

4. 모든 직각은 서로 같다.

5. 임의의 직선이 두 직선과 교차할 때, 교차하는 각의 내각의 합이 두 직각(180도)보다 작을 때, 두 직선을 계속 연장하면 두 각의 합이 두 직각보다 작은 쪽에서 교차한다. 위의 사실들조차 인정하지 않고서는 단순한 논리조차 펼 수 없으면서도, 이 5개만으로 충분한 수학적 전개가 가능하다는 사실이 아주 흥미로울 뿐입니다.

마지막 공준은 조금 어려울 수 있습니다. 엄밀성 문제가 생길 수도 있지만 약간의 비약을 섞어 조금 이해하기 쉽게 바꿔본다면 ‘평행선은 만나지 않는다’ 정도가 되겠네요. 하지만 이 다섯 번째 공준이 다른 것들에 비해 조금 더 설명이 길어진다는 사실을 아쉬워하는 수학자가 줄곧 있었습니다.

점, 선, 각에 대한 정의와 다른 4개의 공준으로 다섯 번째 공준을 증명하려는 시도가 있었던 것이죠. 이를 성공한다면 해당 공준은 마치 명왕성이 행성에서 소행성으로 지위가 낮아진 것과 마찬가지로 공준에서 정리로 그 지위가 낮아지게 되고, 기하학은 사실 네 가지 사실만으로도 이뤄질 수 있음을 증명하는 것과 같은 시도였습니다.

하지만 결과적으로 이러한 시도는 모두 실패로 돌아갔습니다. 다만 계속해서 연구 대상으로 남아 있었죠. 그러던 중 아주 새로운 시도를 하는 수학자도 생겨났습니다. 맞았다고 생각하고 어떻게 증명할까 고민하는 시도에서 방향을 바꿔 틀렸다고 생각하고 논리를 전개하면 모순이 생기지 않을까? 그러면 그 지점에서 힌트를 얻을 수 있지 않을까? 하고요.

때마침 망원경과 항해 기술의 발달 등으로 땅이 전혀 보이지 않는 대양으로도 항해할 수 있게 되었고, 이를 뒷받침하기 위한 측량 방식도 개량되며 수학자에게 영감을 주는 상황 또한 만들어졌습니다. 바로 <다음 그림>과 같은 것인데요.

지구 위를 돌아다닌다는 가정하에서라면 곧게 앞으로 가는 행동과 90도 회전 세 번, 이것만으로 삼각형을 만들 수 있습니다. 내각의 합이 270도인 삼각형이 만들어진 것이죠! 다시 말하면 위의 공준 중 다섯 번째 공준을 정면으로 위배하게 된 것입니다.

이는 유클리드기하학이 틀렸다고 말하는 것이 아닙니다. 이 차이는 유클리드기하학에서는 평면을 가정하고 있고, 위 상황에서는 구면 위에서의 도형에 대한 이야기이기 때문이죠.

이전 같으면 그러려니 했겠지만, 수학자들은 이 사실이 가져오는 큰 변화를 알아차렸습니다. 평면 위에서만 2차원적 접근이 가능하다고 생각한 것은 사실 선입견일 뿐이었고, 구면 위에서 자연스럽게 2차원적으로 생각하는 것도 가능하다는 생각의 변화인 것이죠. 그리고 이 변화로 인해 이른바 ‘평행선 공준’은 평면에서만 성립한다고 그 입지가 줄어들었죠. 구면 위에서라면 평행선도 만날 수 있습니다!

그리고 <옆의 그림>과 같은 말 안장 모양의 면 위에서라면 기준점을 지나는 평행선이 유일하지 않고, 여러 개가 동시에 만들어지기도 합니다.

결과적으로 다섯 번째 공준을 증명하지는 못했지만 이를 인정하지 않아도 되는 기하학을 만들어내게 되었습니다. 이를 ‘비유클리드기하학’이라고 하며, 대표적으로 구면 위에서의 구면기하학, 말안장 모양의 쌍곡기하면 위에서의 쌍곡기하학이 있으니 관심 있는 학생은 좀 더 찾아보면 아주 흥미로운 세상을 만날 수 있습니다.

그런데 수학자들의 상상력은 여기서 그치지 않습니다. 평면이라고 꼭 유클리드기하학을 해야 하나? 싶은 거죠. 이에 대해서는 다음 시간에 다루겠습니다.