확률론 4강. 큰 수의 법칙과 중심극한정리

동전은 빚을 갚지 않습니다. 앞면이 열 번 연속 나와도 다음 판의 확률은 그대로 1/2입니다.

풀고 시작

큰 수의 법칙: 무엇을 말하고 무엇을 말하지 않는가

큰 수의 법칙(law of large numbers)은 야코프 베르누이(Jacob Bernoulli)가 증명해 사후인 1713년 『추측술』로 출판된 확률론 최초의 극한 정리입니다. 내용은 이렇습니다. 같은 시행을 독립적으로 반복하면, 표본 평균(또는 성공 비율)은 시행 횟수가 커질수록 이론적 기댓값에 확률적으로 수렴합니다. 동전을 던질수록 앞면 비율은 1/2에 다가가죠. 3강의 기댓값이 "장기 평균의 무게중심"이라 불릴 자격이 이 정리로 보증되고, 카지노와 보험사가 개별 결과는 몰라도 총합에서는 이기는 이유도 이것입니다.

그런데 이 법칙이 말하지 않는 것이 더 중요합니다. 이 정리는 비율에 관한 것이지 개수에 관한 것이 아닙니다. 앞면 비율이 1/2로 수렴하는 동안에도 앞면 개수와 뒷면 개수의 차이는 얼마든지 벌어질 수 있죠. 100만 번 던져 앞면이 50만 3천 번이면 비율은 0.503으로 1/2에 바짝 붙었지만, 개수 차이는 6천입니다. 수렴은 보정이 아니라 희석으로 일어나는 것입니다.

도박사의 오류: 법칙의 오독

이 오독에는 이름이 있습니다. 도박사의 오류(gambler's fallacy)는 "뒷면이 나올 때가 됐다"는 믿음, 즉 우연이 단기적으로 균형을 맞추러 온다는 믿음입니다. 1913년 몬테카를로 카지노의 룰렛에서 검은색이 26회 연속 나오는 동안, "이제는 빨강 차례"라며 판돈을 올린 도박꾼들이 거액을 잃은 일화가 유명하죠. 룰렛 공에는 기억이 없습니다. 큰 수의 법칙은 "충분히 많은 새 시행이 과거를 희석한다"고 말할 뿐, "다음 시행이 과거를 상쇄한다"고 말하지 않습니다. 장기 비율에 대한 정리를 단기 예측의 도구로 쓰는 순간, 법칙은 미신이 됩니다.

중심극한정리: 왜 세상에 종형 곡선이 흔한가

큰 수의 법칙이 표본 평균의 목적지를 말한다면, 중심극한정리(central limit theorem)는 그 근처에서의 흩어짐의 모양을 말합니다. 원래 분포가 무엇이든(주사위처럼 평평하든, 소득처럼 찌그러졌든) 분산이 유한하기만 하면, 독립적인 값들을 충분히 많이 더한 합(또는 평균)의 분포는 정규분포에 가까워집니다. 드무아브르가 1733년 동전 던지기에서 처음 관찰했고, 라플라스가 일반화했으며, 20세기 초 랴푸노프 등이 엄밀하게 증명했죠.

이것이 3강에서 미뤄 둔 질문의 답입니다. 키, 측정 오차, 시험 점수가 종 모양인 이유는 자연이 정규분포를 특별히 사랑해서가 아니라, 그 양들이 작은 독립 요인 다수의 합이기 때문입니다. 유전 요인 수백 개와 환경 요인 수백 개가 더해진 결과라면, 각 요인의 분포가 무엇이든 합은 종형으로 수렴합니다. 정규분포의 편재는 신비가 아니라 덧셈의 수학적 귀결인 것이죠.

골턴 보드: 정리를 눈으로 보다

19세기 프랜시스 골턴(Francis Galton)이 만든 골턴 보드(Galton board)는 이 정리의 물리적 시연 장치입니다. 못이 격자로 박힌 판 위에서 구슬을 떨어뜨리면, 구슬은 못을 만날 때마다 좌우로 반반 확률로 튕깁니다. 구슬 하나의 경로는 예측 불가능하지만, 수백 개가 쌓이면 바닥에는 어김없이 종 모양 더미가 생기죠. 구슬의 최종 위치는 좌우 이동이라는 독립적 우연 수십 개의 합이고, 그 합이 정규분포로 수렴하는 것입니다. 골턴은 이를 두고 우연 속의 질서를 보여주는 장치라며 경탄했습니다.

두 정리의 역할을 정리하면 다음과 같습니다.

큰 수의 법칙은 여론조사가 표본을 늘리는 근거이고, 중심극한정리는 그 조사의 오차범위를 계산하는 근거입니다. 통계적 추론이라는 다음 과목의 건물이 이 두 기둥 위에 서 있죠.

인출 문제

생각해볼 질문 (정답 없음)

• "지금까지 운이 나빴으니 이제 좋은 일이 생길 때가 됐다"는 위로는 도박사의 오류와 어디까지 같고 어디부터 다를까요.

이전: 확률론 3강 · 다음: 확률론 5강