수학의 언어 2강. 논리와 증명
수학의 확실성은 천재의 직관이 아니라, 누구나 검사할 수 있는 추론 규칙에서 나옵니다.
풀고 시작
명제와 조건문
"내가 화성인이면 나는 부자다." 놀랍게도 이것은 참인 문장입니다. 왜 그런지가 이 절의 핵심이죠. 먼저 명제(proposition)는 참인지 거짓인지가 결정되는 문장입니다. "7은 소수다"는 명제이고 "수학은 아름답다"는 명제가 아닙니다. 수학의 뼈대는 조건문 "p이면 q이다"(p → q)입니다. 조건문이 거짓이 되는 경우는 단 하나, p가 참인데 q가 거짓일 때뿐입니다. p가 거짓이면 조건문은 자동으로 참이 됩니다(공허한 참). 제가 화성인이 아닌 이상, 저 문장은 깨질 방법이 없는 것이죠. 조건문에서는 세 가지 변형이 나옵니다.
| 이름 | 형태 | 원명제와의 관계 |
|---|---|---|
| 역 | q → p | 진리값이 같다는 보장 없음 |
| 이 | ¬p → ¬q | 진리값이 같다는 보장 없음 |
| 대우 | ¬q → ¬p | 항상 진리값이 같음 |
필요조건과 충분조건
p → q가 참일 때, p는 q이기에 충분한 조건이고 q는 p이기 위해 필요한 조건입니다. "서울에 산다 → 한국에 산다"에서 서울 거주는 한국 거주의 충분조건이고, 한국 거주는 서울 거주의 필요조건이죠. 화살표를 받는 쪽이 필요조건이라는 것만 기억하면 혼동이 없습니다. 양방향이 모두 성립하면(p ↔ q) 필요충분조건이며, 수학의 모든 정의는 필요충분조건의 형태를 갖습니다.
증명의 세 가지 길
결론까지 걸어가는 길은 하나가 아닙니다. 직접증명은 가정에서 출발해 알려진 사실과 추론 규칙만으로 결론까지 걸어갑니다. 대우증명은 원명제 대신 진리값이 같은 대우를 증명합니다. "n²이 짝수이면 n은 짝수다"는 직접 다루기 껄끄럽지만, 대우인 "n이 홀수이면 n²은 홀수다"는 쉽습니다. n = 2k+1이면 n² = 4k² + 4k + 1이므로 홀수죠. 귀류법(proof by contradiction)은 결론의 부정을 가정하고 모순을 끌어내, 원래 결론이 참일 수밖에 없음을 보입니다. 유클리드(기원전 3세기경)는 『원론』에서 소수가 유한하다고 가정하면 모순이 생김을 보여 소수의 무한성을 증명했습니다. 귀류법은 고대부터 수학의 주력 무기였던 셈입니다.
실전: √2는 무리수다
이제 귀류법을 실제로 돌려 봅시다. √2가 유리수라고 가정합니다. 그러면 서로소인 자연수 a, b를 골라 √2 = a/b로 쓸 수 있습니다(기약분수). 양변을 제곱하면 2 = a²/b², 정리하면 a² = 2b²입니다. a²이 짝수이므로, 방금 대우로 증명한 명제에 의해 a도 짝수죠. a = 2c로 놓고 대입하면 4c² = 2b², 정리하면 b² = 2c²입니다. 같은 논리로 b도 짝수입니다. 그러면 a와 b가 모두 2로 나누어지므로, 서로소로 잡았다는 가정과 모순됩니다. 따라서 √2는 유리수가 아닙니다. 증명 끝. 이 짧은 논증 하나가 피타고라스 학파의 세계관을 무너뜨렸고, 수 체계를 실수까지 확장하게 만든 방아쇠였습니다. 그 이야기는 4강에서 이어집니다.
인출 문제
생각해볼 질문 (정답 없음)
- 귀류법은 "부정하면 모순이므로 참"이라는 추론입니다. 이 추론은 체계 안에 모순이 없을 때만 안전하죠. 그렇다면 체계 자체의 무모순성은 무엇으로 보장할까요.