우리 주변에는 아주 일상적으로 사용하고 접하지만 정확하게 설명하려고 할 때 어려운 것이 종종 있습니다. 예를 들어 ‘전기의 정체는 무엇인가’ 혹은 ‘돈의 가치는 어디에서 나오는가’ 같은 것입니다. 아주 흥미로운 질문들이죠.

수학에서도 이러한 것을 찾아볼 수 있습니다. 특히 “연속적으로”라는 표현은 구어적으로도 많이 쓰입니다. “으로 수렴한다”보다 덜하기는 하지만 충분히 많이 쓰는 표현이고, ‘점근선’이라는 단어는 일상적으로 쓰이지는 않지만 중학교 1학년의 반비례 그래프에서부터 볼 수 있고, 고등학교 1학년 유리함수 단원부터 직접적으로 들을 수 있는 표현입니다.

일상적으로 사용하지만 곰곰히 생각해보면 애매모호한 것이 이런 부분들인데요, 가끔 이런 지점에 꽂혀 질문하는 학생들을 만나곤 합니다.

“서로 다른 두 점은 분명히 그 사이가 떨어져 있는 것이 당연한데, 그런 점들로 직선이 만들어진다는 게 말이 되나요?”

“수렴한다는 것은 결국 실제로 그 수가 되지는 못하고 가까워만 진다는 건데, 그 말은 어찌되었든 수렴값까지의 차이가 항상 존재한다는 말이잖아요. 그러면 안 되지 않나요?”

그리고 이런 질문을 하는 학생은 누구나 쉽게 가질 수 없는, 중요한 수학적 재능을 타고난 학생들입니다. 이러한 시각으로 수학을 본다면 처음에는 시간이 걸리기는 하겠지만 수학에 대한 본질적인 이해가 깊어지기에 장기적으로는 그 응용력이나 이해력의 범위가 크게 차이날 정도로 성장하게 됩니다.

일단 ‘연속이다’라는 의미를 생각해봅시다. 아직 어린 학생들을 위해 수학적 표현을 줄이고 생각하자면, 어떤 선이 연속적으로 그려져 있다는 말은 그 선이 끊김없이 이어져 있다는 의미로 볼 수 있겠네요. 그러니까 선 위에 놓여 있는 어떤 점을 고르더라도 그 점의 직전 점과 직후 점이 끊어지지 않고 촘촘히 붙어서 연결되어 있다는 뜻입니다.

조금 이상하죠? 같은 점이 아닌 이상, 그것들을 아무리 가깝게 두더라도 계속해서 확대하다 보면 결국엔 떨어져 있을 수밖엔 없는데 말이죠. 그렇게 보면 사실 연속이라는 개념이 허황된 것이 아닌가 싶을 정도입니다.

이는 과학적으로 본다면 맞는 말이라고도 볼 수 있습니다. 하나의 원자는 아무것도 없는 공간의 비중이 99.999999999%가 되기 때문에 원자로 이루어진 모든 사물은 사실 거의 비어 있는 것과 마찬가지이며, 우리가 이어져 있다고 보이는 것도 확대해보면 떨어져 있다고 볼 수 있기 때문입니다.

그러나 수학에서는 이러한 부분에서 자유롭습니다. 점이라는 개념은 인력과 척력에서 자유로우며 본질적으로는 인간의 사고와 의사소통에 의존하는, 인간들이 상호 공유하는 주관적 실체에 가깝기 때문입니다. 그렇기에 무한하게 많은 점과 그것들을 잇는 선을 생각하더라도 아무런 문제가 생기지 않습니다.

다시 하나의 선과 그 위의 점으로 돌아옵시다. 위에서는 마치 가능한 것처럼 직전 점과 직후 점이라는 표현을 썼지요. 하지만 이는 불가능합니다. 하나의 선 위에서라면 어떤 점의 ‘직전 점’이라거나 ‘직후 점’과 같은 것을 찾을 수 없으니까요. 간단하게 유리수만 생각해봐도 이해할 수 있을 겁니다.

a라는 수의 직전 점을 b라고 제시한다고 해보죠. 소숫점을 아주 길게 사용해 아주 비슷한 어떤 수를 수직선 위에서 a의 직전 점인 b라고 제시할 수도 있을 것입니다. 하지만 이러한 시도는 가볍게 실패하죠. 두 수의 평균값은 b보다 더 a에 가깝기 때문입니다. 따라서 더 이상 의 직전 점이라고 할 수 없어지게 됩니다.

이러한 고민 끝에 연속의 엄밀한 정의가 만들어집니다. 점 A에서 어떤 선이 연속한다고 해보죠. 이때 옆에서 어떤 양수인 오차값을 정해줍니다. 그러면 우리는 점 A의 근방에서 그 오차값 이내로 들어가는 다른 점을 찾아보는 겁니다. 만약 찾지 못한다면, 그 오차값을 기준으로 점 A 근방에는 아무런 점도 없으므로 불연속이라고 할 수 있는 것이죠!

만약 어떠한 양수 오차값을 사용하더라도 항상 근방의 점을 찾을 수 있다면 우리는 드디어 점 A에서 그 선이 연속한다고 말할 수 있습니다. 이 방식으로 연속을 정의한다면 어떤가요? 약간 길긴 하지만 아무런 문제나 의문점 없이 연속을 말할 수 있습니다. 이러한 방식은 특정한 점으로 수렴하는 상황을 설명하거나 조금만 응용한다면 무한대로 발산하는 상황도 설명할 수 있는 아주 강력한 설명법이죠.