“소수(prime number)는 끝이 있을까요?” 질문은 단순합니다. 초등학생도 이해할 수 있지요. 하지만 누군가가 “아니요, 소수는 무한히 많아요”라고 대답했을 때, 우리는 곧 되묻게 됩니다. “왜요?” 이 짧은 질문이 바로 수학의 출발점입니다.
수학은 ‘맞다’고 믿는 사실조차도 논리로 다시 묻습니다. 단순한 계산을 넘어 그 사실이 왜 그런지, 항상 그런지, 다른 경우엔 안 그런지를 철저히 밝히는 학문입니다. 그래서 수학은 증명을 사랑합니다.
소수가 무한하다는 명제를 고대 그리스의 수학자 유클리드는 단 다섯 줄로 증명했습니다. 이미 알려진 소수들을 전부 곱하고, 거기에 1을 더해보지요. 예를 들어, 2×3×5=30, 여기에 1을 더하면 31입니다. 이 수는 앞의 소수들(2, 3, 5)로 나누어지지 않습니다. 그렇다면 31은 그 자체로 새로운 소수이거나, 적어도 지금까지의 소수 목록에는 없는 소수로 나누어져야 합니다.
즉 아무리 많은 소수를 알고 있다고 해도 그 바깥의 소수를 찾아낼 방법이 항상 존재합니다. 이 짧은 증명은 명쾌하게, 그리고 단단하게 진실을 밝혀냅니다. 보지 않아도, 세지 않아도, 실험하지 않아도 알 수 있는 진리. 이것이 수학에서의 ‘증명’입니다.
우리가 일상에서 “보면 알잖아요”, “느낌이 그렇잖아요”라고 말하는 많은 것이 수학에서는 받아들여지지 않습니다. 수학은 ‘당연한 것’조차 증명을 요구합니다.
실제로 수학자 화이트헤드와 러셀은 ‘1+1=2’라는 명제를 증명하는 데 379쪽에 이르는 논리를 펼쳐야 했습니다. 그것은 지나친 집착이 아니라, 생각의 기반을 가장 아래에서부터 다시 점검하려는 시도였습니다. 수학에서 증명이 중요한 이유는 바로 여기에 있습니다. 우리가 ‘그럴 것 같아’라고 느끼는 직관은 때때로 맞지만, 증명은 그 직관이 언제나 옳은지를 따지는 도구입니다.
우리나라 교육과정에서는 이론적 정당화보다 실용적인 활용에 무게를 두는 경향이 일반적입니다. “이 공식을 언제 쓰나요?”, “이게 실생활에서 어디에 쓰이나요?”라는 질문은 자주 나오지만, “왜 이 공식이 성립하나요?”라는 질문은 드물죠. 하지만 증명의 역할과 중요성을 생각하며 수학을 공부하는 것은 계산 능력이나 문제 풀이를 넘어 근본적인 수학적 역량, 즉 사고력과 논리적 추론 능력을 키우는 데 꼭 필요합니다.
그렇다면 수학의 증명은 과학의 탐구와 어떻게 다를까요? 과학은 실험과 관찰, 반복되는 현상 속에서 자연의 법칙을 찾아냅니다. 사과가 떨어지는 걸 백 번 본다면, 우리는 중력이 있다고 믿게 되죠.
하지만 수학은 백 번 관찰하지 않습니다. 한 번의 증명으로, 항상 그런 법칙이 성립함을 밝혀냅니다. 이것이 논리의 세계와 경험의 세계가 갈리는 지점입니다. 수학은 “만약 이 조건들이 성립한다면 반드시 이런 결과가 나온다”는 필연성의 학문입니다.
수학의 위대한 정리를 보면 더욱 놀랍습니다. 앞서 본 소수의 무한성처럼 고대부터 알려진 우아한 증명이 있는가 하면, 피타고라스의 정리처럼 수백 가지의 서로 다른 증명 방법이 발견된 경우도 있습니다. 그리고 페르마의 마지막 정리(모든 자연수 n＞2에 대해 xn+yn=zn을 만족하는 자연수 해가 존재하지 않는다는 정리)처럼 한 문장으로 쓰인 명제가 350년 동안 수학자들을 괴롭히다가 마침내 증명된 경우도 있죠.
이런 다양한 이야기가 수학을 단순한 계산을 뛰어넘는 사유와 인내, 그리고 논리의 예술로 만들어줍니다.
학생들이 종종 이렇게 묻습니다. “그걸 꼭 증명해야 하나요?” 그 질문엔 반대로 되묻고 싶습니다. “왜 우리가 이게 맞다고 믿는지를 설명할 수 없다면, 그건 정말 ‘안다’고 할 수 있을까요?”
수학이 우리에게 가르쳐주는 건 단지 공식을 쓰는 법이 아닙니다. 생각을 어떻게 정리하고, 의심하고, 검토하고, 납득하는지를 보여줍니다. 우리가 어떤 사실을 믿는다면, 그것이 왜 그런지를 묻고, 답하고, 다시 묻는 일련의 과정에서 우리는 진리에 가까워집니다.
