수학의 언어 1강. 집합: 모든 수학이 서는 자리
현대 수학의 모든 대상은 집합으로 지어집니다. 그런데 그 토대는 지어지자마자 한 번 무너졌습니다.
풀고 시작
모은다는 것: 소박한 정의
"모을 수 있으면 무엇이든 집합이다." 집합론은 이렇게 대담한 한 문장에서 출발합니다. 창시자 칸토어(Cantor)는 집합을 "우리의 직관이나 사고의 대상 가운데 확정되고 서로 구별되는 것들을 하나의 전체로 모은 것"이라고 정의했습니다. 명확히 모을 수만 있으면 무엇이든 집합이 된다는 이 태도를 소박한 집합론(naive set theory)이라 부릅니다. 대상 a가 집합 A에 속하면 a ∈ A로 씁니다. 집합을 적는 방법은 두 가지입니다. 원소를 나열하거나({1, 2, 3}), 조건을 제시합니다({x : x는 짝수인 자연수}). 그리고 집합의 정체는 오직 원소가 결정합니다. {1, 2, 3}과 {3, 1, 2, 1}은 같은 집합이죠. 순서와 중복은 집합의 눈에 보이지 않으며, 이 원리를 외연성(extensionality)이라 합니다.
부분집합과 연산
A의 모든 원소가 B의 원소이면 A는 B의 부분집합이고 A ⊆ B로 씁니다. 여기서 조금 이상한 손님이 등장합니다. 원소가 하나도 없는 공집합 ∅는 모든 집합의 부분집합입니다. 왜냐하면 "∅의 원소 가운데 B에 없는 것"이 존재할 수 없기 때문이죠. 집합끼리는 연산도 합니다.
| 연산 | 기호 | 뜻 |
|---|---|---|
| 합집합 | A ∪ B | 둘 중 하나에라도 속하는 원소 전부 |
| 교집합 | A ∩ B | 둘 다에 속하는 원소 전부 |
| 차집합 | A ∖ B | A에는 있고 B에는 없는 원소 |
| 멱집합 | P(A) | A의 모든 부분집합을 모은 집합 |
원소가 n개인 집합의 부분집합은 2ⁿ개입니다. 각 원소마다 넣을지 뺄지 두 갈래의 독립적 선택이 있기 때문이죠. 멱집합은 항상 원래 집합보다 크다는 이 단순한 사실이, 5강에서 무한의 위계를 여는 열쇠가 됩니다.
러셀의 역설: 토대의 붕괴
1902년 6월, 독일의 논리학자 프레게(Frege)는 필생의 순간을 앞두고 있었습니다. 산수 전체를 논리와 집합 위에 세우는 대작 『산수의 근본 법칙』 2권이 인쇄되던 중이었죠. 바로 그때 영국의 러셀(Russell)에게서 편지 한 통이 도착합니다. 내용은 앞의 사전시험 문제 그대로였습니다. 소박한 집합론은 "어떤 조건이든 그것을 만족하는 대상 전체가 집합을 이룬다"는 무제한 내포 원리를 허용하는데, "자기 자신을 원소로 갖지 않는다"는 조건을 넣는 순간 모순이 터집니다. 프레게는 2권 후기에 "학문하는 사람에게 이보다 더 불행한 일은 없을 것이다"라고 적었습니다. 흔히 드는 비유가 이발사 역설입니다. "스스로 면도하지 않는 사람만 전부 면도해 주는 이발사"는 자신을 면도할 수도, 안 할 수도 없죠.
공리로 다시 세우다: ZFC
무너진 토대는 어떻게 복구됐을까요. 수습책은 규칙의 명문화였습니다. 1908년 체르멜로(Zermelo)가 집합이 만들어지는 방식을 공리로 제한했고, 프렝켈(Fraenkel) 등의 보완과 선택공리(axiom of Choice)를 더해 오늘의 표준 체계 ZFC가 됐습니다. 핵심 수술은 내포의 제한입니다. 아무 조건에서나 집합을 만들 수 없고, 이미 존재하는 집합 안에서 조건으로 원소를 골라내는 것(분리 공리)만 허용됩니다. 그러면 러셀의 R은 애초에 만들어지지 않고, "모든 집합의 집합"도 존재하지 않게 되죠. 이 공리들 위에서 수, 함수, 공간 등 현대 수학의 사실상 모든 대상이 집합으로 재건됩니다. 그 재건에 쓰이는 언어, 곧 논리와 증명을 다음 강에서 배웁니다.
인출 문제
생각해볼 질문 (정답 없음)
- "모든 집합의 집합"이 존재하지 않는다면, 수학자들이 일상적으로 말하는 "집합들의 우주"란 무엇일까요. 대상이 아니면서도 말할 수 있는 것일까요.