역대 수학교육 과정에서는 여러 수학 개념의 필요성에 대해 많은 논의가 있었습니다. 그 결과, 특정 주제가 교육과정에서 포함되었다가 제외되곤 했습니다. 예를 들어, 문과 학생들에게 미적분을 가르치지 않은 적이 있었고, 계산이 복잡하다는 이유로 비율 추정·행렬·극좌표계 등의 내용이 빠지기도 했습니다. 벡터 역시 이러한 논란의 중심에 있었습니다. 한동안 교육과정에서 제외되었지만, 물리학과 공학 분야에서의 중요성 때문에 다시 포함되었습니다.
벡터의 개념은 모든 현상을 과학으로 설명하려 했던 르네상스 시기에 시작되었습니다. 사과가 떨어지는 현상을 보고 힘의 크기만 중요한 것이 아니라 방향의 개념도 도입해야 한다고 생각한 사람이 있었습니다. 바로 뉴턴입니다. 뉴턴은 벡터와 유사한 개념을 사용해 물리학의 기초를 닦았습니다. 현대적인 벡터 개념은 19세기 말과 20세기 초에 윌리엄 로언 해밀턴과 올리버 헤비사이드 같은 수학자에 의해 형식화되었습니다. 이들은 벡터 계산의 기초를 세워 오늘날 수학과 과학의 중요한 부분으로 자리 잡게 했습니다.
우리가 일반적으로 생각하는 수를 ‘스칼라’라고 하고, ‘힘의 크기’라고 명명합니다. 반면 힘의 크기와 방향을 동시에 갖춘 것을 ‘벡터’라고 합니다. 같은 방향으로 힘을 가하면 힘이 세지지만, 정반대 방향에서 힘을 주면 그 물체는 두 힘의 크기 합만큼 움직이는 것이 아니라, 차만큼 움직이는 상황을 설명할 수 있습니다. 수학은 일정한 체계 내에서 정리를 확립하고 증명하는 과정으로, 사회를 이해하는 도구입니다. 숫자로만 이루어진 세상을 연구했다면, 힘의 방향에 따라 덧셈이 달라지는 세상을 연구하고자 하는 것입니다.
예를 들어 봅시다. 바람은 기후에 영향을 끼칩니다. 그런데 바람은 크기만 중요한 것이 아닙니다. 바람의 방향에 따라 많은 것이 바뀝니다. 바다에서 육지로, 육지에서 바다로 향하는 방향에 따라 바람이 끼치는 영향이 달라집니다. 마찬가지로 남쪽에서 북쪽으로 부는 바람, 북쪽에서 남쪽으로 부는 방향에 따라 바람의 성격도 달라지겠죠. 그렇다면 그 벡터들의 합, 차를 구하는 것이 많이 사용되어서 합과 차를 정의했습니다. 두 벡터의 합은 두 벡터의 시점을 같게 한 후 시작점, 각 벡터의 끝점을 활용해 평행사변형을 만들고, 그 대각선을 두 벡터의 합이라고 정의했습니다. 차는 빼려는 벡터의 방향을 백팔십도 바꾸어 더하는 것으로 정의했습니다. 그렇다면 곱은 어떻게 정의해야 할까요?
수학은 딱히 곱을 정의해야 할 필요가 없었습니다. 하지만 물리적으로 내적이라는 개념이 필요했습니다. 이유는 어떤 힘이 목표하는 방향과 일치하는 성분이 어떤지 궁금했기 때문에 내적이라는 개념을 통해 계산했습니다. 예를 들어, 나사를 돌리면 나사는 앞으로 점점 들어가게 되는데, 벡터의 회전을 통해 운동 방향이 완전히 바뀌는 것이죠. 이것은 물리학적으로 필요한 내용이었습니다. 그래서 수학에서는 물리학적으로 정의 내린 벡터의 내적과 외적을 포함한 완벽한 수학적 체계를 만들어낸 것입니다. 그것을 ‘유클리드 벡터’라고 명명했습니다.
천체학에서는 행성의 궤도운동을 설명하기 위해 벡터가 필요합니다. 화학에서는 분자 내 원자의 위치와 결합의 방향을 설명하는 데 벡터가 사용되며, 분자의 구조와 상호작용을 분석할 때 벡터를 이용해 원자 간 거리와 각도를 측정합니다. 생물학에서는 단백질의 구조적 변화나 효소의 작용을 벡터를 사용해 이해할 수 있습니다. 이처럼 다양한 과학 분야에서도 벡터의 개념을 활용해 여러 가지 정리를 확립했습니다.
벡터는 과학에만 국한되어 있지 않습니다. 컴퓨터 화면은 작은 직사각형 픽셀로 구성되어 있어 그래픽을 확대하면 깨지는 현상이 발생합니다. 그러나 벡터 그래픽을 사용하면 용량이 적게 들고 확대해도 깨지지 않습니다. 또한 애니메이션에서 동적 화면을 구성하기 위해 여러 장의 그림을 그려야 했지만, 벡터를 이용해 물체의 움직임을 표현하면 더 효율적입니다.
이처럼 수학은 현상을 연구할 때 편리한 개념들을 사용해 그 체계를 완성하는 도구입니다. 과학을 연구할 때는 반드시 어느 정도의 수학적 개념을 알아야 하지만, 수학은 과학을 전혀 몰라도 할 수 있습니다. “수학이 과학의 기초다”라는 말은 수학자가 아닌 과학자들이 하는 말입니다. 이는 양자역학이나 상대성이론 같은 복잡한 현상을 설명할 때 수학이 필수이기 때문입니다. 반면 수학을 공부할 때는 과학적 이론이 필요하지 않은 것이 아이러니한 점입니다.
