확률론 2강. 조건부확률과 베이즈 정리
검사 정확도 99%에서 양성 판정을 받아도, 병에 걸렸을 확률은 9%일 수 있습니다.
풀고 시작
정보가 들어오면 표본공간이 줄어든다
조건부확률(conditional probability)은 새 정보를 반영한 확률입니다. 사건 B가 일어났다는 것을 알 때 A의 확률을 P(A|B)로 쓰고, P(A|B) = P(A와 B가 동시에 일어날 확률) / P(B)로 정의합니다. 직관은 간단합니다. B가 일어났다는 정보는 표본공간을 B로 줄입니다. 주사위에서 "짝수가 나왔다"는 말을 들으면 무대는 {1,...,6}에서 {2, 4, 6}으로 줄고, 그 안에서 6의 확률은 1/6이 아니라 1/3이 되죠. 1강의 표본공간 개념이 여기서 동적으로 움직이기 시작합니다.
주의할 것은 방향입니다. P(A|B)와 P(B|A)는 전혀 다른 수입니다. "환자가 양성일 확률"과 "양성인 사람이 환자일 확률"은 다르죠. 이 둘을 뒤집어 혼동하는 것을 검사의 맥락에서 기저율 무시(base rate neglect)라 부르고, 법정에서는 검사의 오류(prosecutor's fallacy)라 부릅니다. 심리학자 카너먼과 트버스키는 1970년대 실험으로 의사와 판사조차 이 혼동에 빠진다는 것을 보였습니다.
검사의 역설: 왜 9%인가
풀고 시작 문제를 해부해 봅시다. 검사 정확도 99%는 P(양성|병), 즉 병인 사람이 양성일 확률입니다. 우리가 알고 싶은 것은 반대 방향, P(병|양성)이죠. 이 둘을 잇는 다리에서 결정적인 것이 기저율(base rate), 즉 애초에 병일 확률 0.1%입니다.
10만 명을 상상하면 계산이 투명해집니다. 환자 100명 중 99명이 양성이고, 비환자 99,900명 중 1%인 약 999명이 거짓 양성입니다. 양성 판정자 약 1,098명 중 진짜 환자는 99명뿐이죠. 거짓 양성의 절대 수가 진짜 양성을 압도하는 이유는 병이 드물기 때문입니다. 검사가 나빠서가 아니라 기저율이 낮아서 생기는 현상이므로, 희귀병 선별검사의 양성은 확진이 아니라 정밀검사의 신호로 읽어야 합니다.
베이즈 정리: 믿음의 갱신 규칙
이 뒤집기를 일반 공식으로 만든 것이 베이즈 정리(Bayes' theorem)입니다. 18세기 영국 목사 토머스 베이즈(Thomas Bayes)의 유고를 1763년 친구 리처드 프라이스가 발표했고, 라플라스가 독립적으로 재발견해 일반화했죠. 식은 P(가설|증거) = P(증거|가설) × P(가설) / P(증거)입니다.
그런데 식보다 구조가 중요합니다. 증거를 보기 전의 믿음인 사전확률(prior)에서 출발해, 그 가설이 증거를 얼마나 잘 설명하는지인 가능도(likelihood)를 곱하고, 정규화하면 갱신된 믿음인 사후확률(posterior)이 나옵니다. 요컨대 사전확률 → 증거 → 사후확률의 갱신 순환이며, 오늘의 사후확률은 내일의 사전확률이 됩니다. 스팸 필터, 의료 진단, 기계학습이 모두 이 순환 위에서 돌죠. 철학 서가의 흄이 기적 논증에서 저울질한 것도 정확히 이 구조였습니다.
몬티 홀 문제: 정보는 공짜가 아니다
조건부확률의 가장 유명한 함정이 몬티 홀 문제(Monty Hall problem)입니다. 문 세 개 중 하나에 자동차가 있습니다. 참가자가 문 하나를 고르면, 정답을 아는 사회자가 나머지 둘 중 염소가 있는 문을 열어 보여주고 바꿀 기회를 줍니다. 바꿔야 할까요?
답은 바꾸면 승률이 1/3에서 2/3으로 오른다입니다. 처음 선택이 정답일 확률은 1/3이고, 이 확률은 사회자의 개입으로 변하지 않습니다. 남은 2/3의 확률이 통째로 남은 한 문에 몰리죠. 핵심은 사회자가 무작위로 연 것이 아니라 정답을 알고 염소 문만 골라 열었다는 점입니다. 정보가 어떤 절차로 주어졌는지가 확률을 바꾸는 것이죠. 1990년 칼럼니스트 마릴린 보스 사반트가 이 답을 싣자 수학 박사들을 포함해 수천 통의 항의 편지가 쏟아졌지만, 시뮬레이션이 그녀가 옳음을 확인해 주었습니다. 다음 강에서는 불확실한 결과에 수를 붙이는 확률변수를 다룹니다.
인출 문제
생각해볼 질문 (정답 없음)
- 법정에서 "이 증거가 무고한 사람에게서 나올 확률은 백만분의 일"이라는 진술은 어떤 확률의 방향 혼동을 일으킬 수 있을까요.