확률론 1강. 확률의 탄생과 공리

확률론은 진리 탐구가 아니라 도박 판돈을 공정하게 나누는 문제에서 태어났습니다.

풀고 시작

1654년, 도박꾼의 질문

확률론의 출생 신고서에는 날짜가 있습니다. 1654년, 도박을 즐기던 프랑스 귀족 슈발리에 드 메레(Chevalier de Méré)가 파스칼(Blaise Pascal)에게 질문을 던졌고, 파스칼은 페르마(Pierre de Fermat)와 서신을 주고받으며 답을 만들었습니다. 핵심 문제가 분배 문제(problem of points)입니다. 내기가 도중에 중단되면 판돈을 어떻게 나눠야 공정할까요? 두 사람의 통찰은 단순하지만 혁명적이었습니다. 공정한 몫은 과거의 전적이 아니라 미래에 일어날 수 있는 경우들의 비율로 정해진다는 것입니다. 아직 일어나지 않은 일을 체계적으로 세는 수학, 즉 불확실성의 수학이 여기서 시작됐죠. 하위헌스가 1657년 이 아이디어를 최초의 확률론 교과서로 정리했고, 기댓값 개념(3강에서 다룹니다)도 이 흐름에서 나왔습니다.

고전적 정의와 그 한계

이 전통을 라플라스(Pierre-Simon Laplace)가 정식화한 것이 고전적 정의입니다. 확률은 전체 경우의 수에 대한 유리한 경우의 수의 비, 즉 P = 유리한 경우 / 전체 경우입니다. 주사위에서 짝수가 나올 확률은 3/6이죠. 명료해 보이지만, 여기에는 두 개의 균열이 있습니다.

첫째, 순환성입니다. 이 정의는 모든 경우가 "똑같이 그럴듯하다"는 전제 위에 서 있습니다. 그런데 "똑같이 그럴듯하다"는 말이 이미 확률 개념이죠. 확률을 정의하는 데 확률을 쓰는 셈입니다. 둘째, 적용 범위입니다. 찌그러진 주사위, 내일 비가 올 확률, 무한히 많은 경우처럼 대칭적인 경우의 수를 셀 수 없는 상황에는 답을 주지 못합니다. 확률이 무엇인지에 대한 논쟁은 이렇게 시작부터 잠복해 있었고, 5강에서 정면으로 다룹니다.

콜모고로프의 해법: 정의하지 말고 공리화하라

1933년 콜모고로프(Andrey Kolmogorov)의 『확률론의 기초』가 이 교착을 끊었습니다. 전략은 힐베르트의 기하학 공리화와 같습니다. 확률이 "무엇인지"는 묻지 않고, 확률이라 불리려면 만족해야 할 규칙만 못박는 것이죠.

이 세 줄에서 나머지 전부가 정리로 유도됩니다. 여집합의 확률이 1 − P(A)라는 것도, 확률이 1을 넘을 수 없다는 것도 공리의 귀결이죠. 확률론은 이로써 측도론(해석학 6강에서 본 엄밀화의 연장선) 위에 선 현대 수학의 정식 분과가 됐습니다.

표본공간과 사건: 모형을 먼저 그려라

공리가 작동하려면 무대가 필요합니다. 표본공간(sample space) Ω는 일어날 수 있는 모든 결과의 집합이고, 사건(event)은 그 부분집합입니다. 주사위 한 번이면 Ω = {1, 2, 3, 4, 5, 6}, "짝수"라는 사건은 {2, 4, 6}이죠. 그런데 확률 문제에서 생기는 혼란의 대부분은 계산 실수가 아니라 표본공간을 잘못 그린 데서 옵니다. 동전 두 개를 던져 "앞면 개수"만 보면 {0, 1, 2}가 같은 확률로 보이지만, 실제 표본공간은 (앞,앞), (앞,뒤), (뒤,앞), (뒤,뒤) 네 가지이고 앞면 1개는 그중 둘을 차지합니다. 분배 문제에서 파스칼과 페르마가 한 일도 정확히 이것, 남은 판들의 표본공간을 빠짐없이 그리는 일이었습니다. 다음 강에서는 정보가 들어왔을 때 이 표본공간이 어떻게 줄어드는지, 즉 조건부확률을 다룹니다.

인출 문제

생각해볼 질문 (정답 없음)

• 콜모고로프의 공리는 확률이 무엇인지 끝내 말해주지 않습니다. 규칙만 있고 의미가 비어 있는 수학은 완성된 것일까요, 미완성인 것일까요.

이전: 해석학 6강 · 다음: 확률론 2강