어려운 수학의 대명사로 미적분을 많이 언급하고는 합니다. 오늘은 그 이야기보다 미분과 적분을 둘러싼 흥미로운 내용을 소개하겠습니다.

미분과 적분은 어떤 사람이 만든 걸까요? 아니, 누가 먼저 생각했을까요? 한 번쯤 궁금해했을지도 모르겠네요. 그런데 놀랍게도, 이 질문엔 아직도 완전히 속 시원한 답을 찾지 못했습니다. 미적분은 17세기 후반, 영국과 독일에서 서로 다른 방식으로 ‘거의 동시에’ 등장했기 때문이죠. 그리고 이를 둘러싼 두 수학자 뉴턴과 라이프니츠의 이야기는 수학사에서 매우 흥미로운 에피소드 중 하나로 꼽힙니다.

17세기 과학자들은 더 이상 단순한 기하학으로는 설명할 수 없는 문제들에 직면하게 됩니다. 여기서 말하는 ‘단순한 기하학’이란 직선, 원, 삼각형과 같은 도형의 성질을 다루는 고전적 기하학을 말합니다. 이러한 기하학은 정적인 구조나 형태에는 탁월했지만, 시간에 따라 끊임없이 변하는 운동이나 변화량을 다루기에는 한계가 있었죠. 예를 들어 행성은 어떻게 움직일까? 물체가 가속하면 그 순간의 속도는 어떻게 계산할까? 곡선의 접선은 어디서부터 어떻게 그려야 할까? 이러한 질문들에는 새로운 접근이 필요했습니다.

이런 질문들에 답하기 위해 아주 작은 변화량을 다루는 새로운 수학이 등장했습니다. 바로 이것이 오늘날 우리가 ‘미적분’이라고 부르는 수학입니다. 미적분은 물체가 움직일 때 그 순간의 속도를 구하거나, 곡선 아래의 넓이를 계산하거나, 어떤 양이 점점 변할 때 그 전체적인 변화를 추적하는 데 쓰는 도구입니다. 정지해 있는 도형을 다루는 기하학과 달리, 미적분은 시간이나 위치에 따라 끊임없이 변하는 현상들을 수학적으로 정밀하게 다룰 수 있게 해줍니다.

아이작 뉴턴은 1666년, 전염병으로 케임브리지 대학이 문을 닫자 고향으로 내려가게 됩니다. 정원에서 사과가 나무에서 떨어지는 장면을 보고 중력에 대한 의문을 품었다는 유명한 일화도 바로 이 시기의 이야기입니다. ‘왜 모든 물체는 아래로 떨어지는가?’라는 단순한 질문은 그에게 만유인력의 법칙을 떠올리게 했고, 그 법칙을 수식으로 표현하는 데에도 미적분은 결정적 도구가 되어주었습니다.

당시 겨우 20대 초반이던 뉴턴은 혼자서 놀라운 개념을 떠올립니다. 오늘날 미분에 해당하는 ‘유율(fluxion)’이라는 개념이 바로 이때 탄생했죠. 이는 움직이는 양의 변화 속도를 정밀하게 다룰 수 있도록 해주었고, 이후 만유인력의 법칙과 운동의 법칙을 수학적으로 정식화하는 데 핵심적 역할을 하게 됩니다.

그러나 뉴턴은 이 아이디어를 곧바로 발표하지 않았습니다. 그는 계산과 실험, 물리학에 더 큰 관심을 두었고, 미적분 관련 개념은 오랫동안 메모나 편지 형태로만 남아 있었습니다. 결국 그의 미적분 개념은 훨씬 나중에야 복잡한 설명과 함께 출판되었고, 그마저도 명확하게 정리되어 있지는 않았습니다.

반면 독일의 철학자이자 수학자 고트프리트 라이프니츠는 뉴턴과는 다른 방식으로 미적분에 접근했습니다. 그는 개념을 보다 체계적이고 명확하게 정리하며, 오늘날 우리가 사용하는 기호들인 ∫(적분 기호)과 d(미분 기호)를 도입했습니다. 특히 1684년에는 프랑스 학술지에 미분법에 관한 논문을 정식으로 발표하면서, 뉴턴보다 먼저 ‘공개적으로’ 미적분을 소개한 인물로 기록되었습니다.

문제는 두 사람 모두 “내가 먼저 생각했다”고 주장하면서 시작됩니다. 뉴턴 쪽 사람들은 “라이프니츠가 뉴턴의 원고를 봤다”고 주장했고, 라이프니츠는 “그럴 리 없다”고 반박했습니다.

1710년, 영국 왕립학회는 이 논란을 조사했고, 결론은 “뉴턴이 먼저였다”였습니다. 이 보고서는 ‘코메르키움 에피스톨리쿰 (Commercium Epistolicum)’이라는 이름으로 발표되었으며, 겉보기에는 왕립학회 전체의 공식 입장을 담은 것처럼 보였습니다. 그러나 실제로는 뉴턴이 당시 학회 회장으로서 초안 작성부터 편집, 최종 발간까지 깊이 개입한 문서였습니다. 그가 명예를 위해 의도적으로 거짓을 기록했다고 단정하기는 어렵지만, 객관성을 유지했다고 보기도 힘든 정황이었지요. 이 사건은 오늘날에도 과학사에서 대표적인 ‘이해충돌(conflict of interest)’ 사례로 자주 인용됩니다.

이 사건은 이후 오랫동안 학계에 어두운 그림자를 드리웠습니다. 서로의 제자들이 상대편 수학자를 비난했고, 영국과 유럽대륙 사이의 수학적 교류도 잠시 단절될 정도였습니다.

시간이 흐르면서 학자들은 보다 객관적 시선으로 두 사람을 평가하게 됩니다. 뉴턴은 실제로 더 먼저 아이디어를 떠올렸지만 발표와 정리, 확산에는 소극적이었고, 반면 라이프니츠는 늦었지만 더 명료하게 정리하고 널리 퍼뜨렸다고 말이죠. 결국 오늘날 우리는 두 사람 모두를 ‘미적분의 공동 창시자’로 인정하고 있습니다.