교과서 속 직선을 떠올려보면 이상한 점이 하나 있습니다. 그 직선에는 두께가 없습니다. 점에는 크기도 없고, 좌표축은 끝도 없이 뻗어 있습니다. 하지만 현실에는 두께 없는 선도 없고, 크기 없는 점도 없습니다. 우리가 만질 수 있는 모든 선에는 폭이 있고, 어떤 물체도 ‘점 하나’로 존재하지는 않습니다. 실제 교과서의 직선과 점도 두께와 크기를 가집니다. 심지어 선생님이 손으로 삼각형을 그려 설명할 때 그 삼각형의 선이 약간 휘거나 두 선분이 한 점에서 맞지 않아도 우리는 상황을 이해하는 데 크게 불편함을 느끼지 않습니다.
우리는 이런 설정을 전혀 이상하게 느끼지 않습니다. 오히려 아주 자연스럽게 받아들입니다. 이 당연함 속에서 하나의 질문이 생깁니다. “수학은 언제부터 현실을 그대로 다루지 않게 되었을까?”
처음부터 그랬던 것은 아닙니다. 고대의 기하학은 눈으로 보이는 공간에서 출발했습니다. 길이를 재고, 면적을 비교하고, 도형의 모양을 살피는 학문이었습니다. 현실과 수학의 거리는 지금보다 훨씬 가까웠습니다. 초등학교와 중학교의 기하학과 비슷하다고 볼 수 있겠죠.
하지만 시간이 흐르면서 수학은 조금씩 방향을 바꾸기 시작합니다. 데카르트 이후 공간은 좌표로 번역되었고, 점과 선은 수와 식으로 표현되기 시작했습니다. 고등학교 1학년 수학에서는 직선의 방정식이나 원의 방정식과 같이 이러한 변화를 크게 느낄 수 있는 단원이 많습니다.
또한 현실의 사건을 그대로 다루는 대신 사건을 ‘경우의 수’와 ‘분포’로 바꿔 확률과통계로 분석하게 되었습니다. 전체적인 경향성을 수치로 표현할 수 있게 되었고, 가능성의 크기를 비교하는 것이 가능해졌습니다. 중학교에서부터 이런 것들을 접할 수 있죠.
도형의 수식화와 가능성의 수치화에서 더 나아가, 수학은 더 이상 사물을 직접 다루지 않고 사물 사이의 관계를 다루는 학문으로 옮겨갔습니다. 집합이나 함수 단원을 보면 무엇보다도 이러한 수학의 특징을 가장 크게 느낄 수 있습니다. 현실을 그대로 복사하는 것은 뒤로 제쳐두고, 형태를 보다 다루기 쉽게 본질만 남기는 쪽으로 바꾸는 방향을 택한 것입니다.
이 변화는 때로 오해를 낳습니다. 확률이 0인데도 현실에서는 예외가 생기고, 모든 부분에서 평균적인 사람은 사실 극히 보기 힘들며, 기댓값은 다음에 나올 값을 미리 말해주는 것이 아닙니다. 그래서 우리는 종종 묻습니다.
“이러면 수학이 현실을 제대로 설명하지 못하는 것 아닌가요?”
하지만 이 질문은 방향이 조금 어긋나 있습니다. 이런 어긋남은 수학의 실패가 아니라, 우리가 수학이 현실을 직접 다룬다고 착각할 때 생기는 오해이기 때문입니다. 수학은 애초에 현실 자체를 담는 학문이 아니기 때문입니다. 그 대신 현실에서 중요한 것만 남기고, 나머지는 과감하게 지워왔습니다.
그렇게 해서 수학이 얻은 것이 있다고 생각합니다. 그리고 이것들은 우리가 수학을 공부하는 이유와도 맞닿아 있습니다.
첫째, 복잡함을 다룰 수 있게 되었습니다. 현실은 너무 많고, 너무 불규칙하고, 너무 시끄럽습니다. 모든 것을 담으려 하면 아무 말도 할 수 없습니다. 수학은 중요하지 않은 것을 덜어내고, 핵심만 남겨 생각하도록 해줍니다.
둘째, 반복해서 생각하게 되었습니다. 현실의 사건은 언제나 다르지만, 수학 안에서는 같은 조건을 다시 세울 수 있습니다. 그래서 우리는 한번 일어난 일을 설명하는 데 그치지 않고, 여러 번 생각할 수 있는 틀을 갖추게 되었습니다.
셋째, 예측이 가능해졌습니다. 수학의 예측은 ‘반드시 맞힌다’는 약속이 아닙니다. 그 대신 어디까지 말할 수 있고, 어디부터는 조심해야 하는지를 분명히 해줍니다. 기상예보나 통계분석이 가능한 것도 바로 이 지점 덕분입니다.
넷째, 오류를 구분할 수 있게 되었습니다. 계산이 틀린 것인지, 가정이 잘못된 것인지, 해석이 과도한 것인지, 수학적 모델링 자체가 부적절한 것인지를 가려낼 수 있습니다. 현실을 그대로 다뤘다면 이러한 구분은 애초에 불가능했을 것입니다.
마지막으로, 수학은 생각의 공통언어를 얻었습니다. 현실은 사람마다 다르게 보이지만, 수학은 공유하고 검토하고 반박할 수 있습니다. 그래서 수학은 개인의 감각을 넘어 함께 생각하는 학문이 될 수 있었습니다.
