복권 광고나 기사를 보면 이런 문구를 자주 보게 됩니다. “1등 당첨금 약 20억 원!”이라든가 “1등 예상 당첨금 20억 원!” 같은 말들입니다. 고등학교에서 확률과통계를 배우다 보면, 수업 시간에도 비슷한 표현이 슬며시 따라 나옵니다. “그 정도면 한 번 시도에 5만 원쯤 나오는 걸로 기대하면 되는 거죠?” 같은 말들입니다.
언어적으로는 너무 자연스럽습니다. 선생님 입장에서도 고개가 끄덕여집니다. 그런데 수학의 입장에서 엄밀히 보자면 살짝 고개를 갸웃해야 만드는 표현이기도 합니다. 이 ‘자연스러운 말’과 ‘수학의 말’ 사이에 있는 간극을, 특히 확률과 통계에서 몇 가지 골라 살펴보려 합니다.
고등학교 선택과목인 확률과통계에서 배우는 기댓값은 한 번의 결과를 말하는 것이 아닙니다. 동전을 던져서 앞면이 나오면 1000원, 뒷면이 나오면 500원을 받는 게임을 생각해봅시다. 앞면과 뒷면이 나올 확률은 각각 2분의 1이므로, 이 게임의 기댓값은 1000원 × 1/2, 500원 × 1/2을 더한 750원이 됩니다. 언어적으로 받아들이면 자연스럽게 이렇게 말하고 싶어집니다. “이 게임은 750원을 기대할 수 있는 게임이다.”
그런데 실제로 이 게임을 해보면 750원을 받는 경우는 단 한 번도 없습니다. 받을 수 있는 돈은 언제나 1000원이나 500원뿐입니다. 수학에서 말하는 기댓값은 “아주 많이 반복했을 때, 한 번당 평균적으로 얼마쯤이 되는가”를 나타내는 값이라고 볼 수 있습니다. 한 번의 시행에서 “이번에 나에게 나올 값”이 아니라, 아주 여러 번 반복해서 얻은 값을 모두 더한 뒤 시행 횟수로 나누었을 때 가까워지는 평균값을 뜻하는 셈입니다. 그래서 “그 정도 값이 실제로 한 번에 나오리라고 기대된다”고 이해하면 말의 느낌은 부드럽고 대충 맥락은 통하지만, 수학적으로 정의된 기댓값의 의미와는 미묘하게 어긋나게 됩니다.
또 다른 것은 평균과 개개인 사이의 간극입니다. “우리 반 수학 평균이 80점이래”라는 말을 들으면, 우리는 대충 이런 느낌을 가집니다. “아, 그 반은 보통 80점 정도 하는구나.” 하지만 실제로는 40점, 50점인 친구도 있고 95점, 100점인 친구도 있을 수 있죠. 평균은 단지 모든 점수를 더해 인원수로 나눈 값일 뿐, 그 반의 ‘보통 학생 한 명’을 직접 보여주지는 않습니다. 어떤 상황에서는 반 평균은 80점이지만 반에 80점 근처에 있는 친구가 한 명도 없을 수도 있는 것입니다.
언어적으로는 평균값이 곧 “보통 모습”, “일반적인 모습” 또는 “대부분의 모습”으로 느껴지지만, 실제 데이터에서는 평균 근처에 있는 학생이 거의 없거나 아예 없을 수도 있습니다. 우리가 말로 떠올리는 평균의 느낌과 통계에서 평균이 맡고 있는 역할 사이에 생각보다 큰 차이가 있는 셈이죠. 평균과 기댓값은 모두 분포 전체를 요약해주는 수치일 뿐 우리 머릿속에 떠오르는 “평범한 한 사람의 모습”을 직접 보여주는 값은 아니라는 점에서 언어와 개념 사이의 간극이 생깁니다.
마지막 예시는 확률 0과 100에 대한 느낌입니다. 일상 언어에서 “그럴 확률은 0%야”라는 말은 “절대 안 일어난다”, “확률 100%지”는 “무조건 일어난다”와 같이 씁니다. 하지만 수학적으로는 조금 더 섬세한 이야기가 필요합니다. 예를 들면, 원판에 무작위로 한 점을 찍는 상황을 생각해봅시다. 이때 딱 원의 ‘중심’을 맞출 확률은 0입니다. 그렇다고 해서 “중심을 찍는 일이 절대 일어날 수 없다”고 말할 수 있을까요? 완전히 불가능한 일은 아닙니다. 가능한 일이죠. 하지만 우리가 쓰는 연속 확률 모형에서는 그 사건의 확률을 0으로 계산합니다.
반대로, 어떤 모델 안에서 확률이 1인 사건이라도 현실에서는 측정 방법이나 조건에 따라 예외가 생길 수 있습니다. 수학적으로는 어떤 사건의 확률이 1이라고 말해도, 현실에서는 예외들이 언제든 끼어들 여지가 있습니다. 물론 중고등학교 교육과정에서는 “확률 0=불가능, 확률 1=반드시 일어남”으로 공부해도 큰 문제가 생기지 않는 범위에서만 다룹니다. 하지만 우리가 사용하는 수학이 현실을 가까이 가기 위해 만든 모델이라는 점을 알고 나면, 언어에서 느끼는 “절대·반드시”와 수학에서 말하는 0과 1 사이에 얇지만 중요한 틈이 있다는 것을 보게 됩니다.
그렇다면 이렇게 언어와 수학 사이의 틈을 신경 써서 배우면 무엇이 달라질까요? 기댓값·평균·확률 같은 것들이 더 이상 “공식 넣고 답 구하는 단원”이 아니라, 모호한 말을 또렷한 개념으로 고쳐 생각해보는 작업처럼 보이기 시작할 수 있습니다. 뉴스나 광고에서 “평균” “위험 0에 가깝다” “정확도 99%” 같은 말을 들을 때도 그 뒤에 어떤 조건과 전제가 숨어 있는지 한번 더 생각해볼 수 있겠지요. 자연스러운 말을 그대로 쓰면서도, 지금 내가 말한 것이 수학적으로는 무슨 뜻인지 조심스럽게 점검하는 습관이 생깁니다. 어쩌면 확률과 통계를 배운다는 건 세상을 숫자로 보는 연습인 동시에, 우리가 이미 쓰고 있는 언어와 생각을 조금 더 정직하게 다듬어가는 과정인지도 모르겠습니다.
