모던지 / 수학 / 기하학 1강. 유클리드와 공리적 방법

기하학 1강. 유클리드와 공리적 방법

『원론』의 진짜 유산은 도형 지식이 아니라, "몇 개의 전제에서 모든 것을 증명한다"는 지식의 건축 양식입니다.

풀고 시작

문제 1. 유클리드 원론에서 "정리"가 참으로 인정받는 근거는 무엇일까요?
공리적 방법의 핵심은 근거의 소급입니다. 모든 정리는 앞서 증명된 정리로, 최종적으로는 증명 없이 받아들인 소수의 출발점(정의·공준·공리)으로 소급됩니다. 그림 확인이나 권위, 경험적 일치는 확신을 줄 수는 있어도 원론이 요구하는 "증명"이 아닙니다.

한 권의 책이 만든 형식

2000년 넘게 교과서 자리를 지킨 책은 어떤 책일까요? 기원전 300년경 알렉산드리아의 유클리드(Euclid)가 편찬한 『원론』(Elements) 13권입니다. 내용 대부분은 선배들의 성과였지만, 유클리드의 공헌은 배열에 있었습니다. 그는 당시까지의 기하 지식 전체를 하나의 연역 체계로 재조직했죠. 1권의 구조가 전형입니다. 먼저 정의(definition) 23개가 점, 선, 원 같은 용어의 의미를 고정합니다. 다음으로 공준(postulate) 5개가 기하 고유의 출발점을, 공리(common notion) 5개가 "전체는 부분보다 크다"처럼 모든 학문에 통하는 자명한 원리를 제시합니다. 그 위에서 명제들이 하나씩 증명되는데, 각 증명은 오직 정의·공준·공리와 이미 증명된 명제만을 근거로 삼습니다. 1권은 이렇게 48개 명제를 쌓아 올려 마지막에 피타고라스 정리(1권 명제 47)에 도달합니다. 프로클로스가 전하는 일화에서 왕 프톨레마이오스가 지름길을 묻자 유클리드는 "기하학에 왕도는 없다"고 답했습니다. 체계 안에서는 왕도 밑에서부터 걸어야 하는 것이죠.

증명이라는 발명품

이 방식이 왜 혁명일까요? 이집트와 바빌로니아에도 뛰어난 계산 기법이 있었지만, 그것은 "이렇게 하면 맞는다"는 요리법이었습니다. 그리스인들은 "왜 반드시 맞는가"를 물었고, 유클리드는 그 답의 표준 형식을 완성했습니다. 참임이 보증되는 이유를 유한한 논증 사슬로 제시하는 것, 이것이 증명입니다. 공리적 방법의 매력은 경제성과 확실성의 결합에 있습니다. 다섯 개의 공준만 받아들이면 수백 개의 정리가 필연적으로 따라옵니다. 개별 사실을 외우는 대신 생성 규칙을 소유하게 되는 셈이죠. 이 형식은 이후 대수학 5강에서 본 현대 공리계(군의 공리 등)의 직계 조상입니다.

기하학 바깥으로 번진 양식

『원론』은 2000년 넘게 서양 교육의 표준 교재였고, 그 형식은 수학 바깥으로 수출됐습니다. 윤리학 책과 물리학 책과 정치 문서가 모두 기하학 교과서를 흉내 냈다면 믿으시겠습니까? 스피노자는 『에티카』(1677)를 "기하학적 순서로 증명된" 윤리학으로 썼습니다. 정의와 공리에서 출발해 신, 정신, 감정에 관한 명제를 정리처럼 증명하는 책이죠. 뉴턴의 『프린키피아』(1687)도 정의와 공리(운동 법칙)에서 명제들을 연역하는 원론의 구조를 그대로 따랐습니다. 미국 독립선언서(1776)의 "우리는 이 진리들을 자명한 것으로 여긴다"는 문장 역시 공준에서 결론을 연역하는 수사 구조입니다. 링컨이 변호사 시절 논증력을 기르려고 원론 앞부분을 증명할 수 있을 때까지 공부했다는 이야기는 그 자신이 밝힌 것입니다. 요컨대 서양 지성사에서 "엄밀하게 사고한다"는 말은 오랫동안 "유클리드처럼 사고한다"는 뜻이었습니다.

다섯 번째 공준의 찜찜함

그런데 이 완벽해 보이는 체계의 주춧돌 하나가 처음부터 삐걱거렸습니다. 앞의 네 공준은 짧고 자명해 보입니다. 두 점을 잇는 직선을 그을 수 있다, 직선을 연장할 수 있다, 임의의 중심과 반지름으로 원을 그릴 수 있다, 모든 직각은 서로 같다. 그러나 다섯 번째 공준(평행선 공준)은 문장부터 길고 복잡합니다. 한 직선이 두 직선과 만날 때 같은 쪽 내각의 합이 두 직각보다 작으면, 두 직선을 연장하면 그쪽에서 만난다는 것입니다. "한 직선 밖의 점을 지나 그 직선에 평행한 직선은 하나뿐이다"라는 훗날의 표현(플레이페어 공리)과 동치죠. 이것은 공준이라기보다 증명이 필요한 정리처럼 보였습니다. 유클리드 자신도 이 공준의 사용을 1권 명제 29까지 최대한 미뤘습니다. 다른 공준들로부터 이것을 증명하려는 시도가 이후 2000년간 이어지는데, 그 실패의 기록이 다음 강의 주인공입니다.

인출 문제

문제 1. 원론 1권의 구조를 순서대로 바르게 나열한 것은 무엇일까요?
먼저 정의 23개가 용어를 고정하고, 공준 5개와 공리 5개가 증명 없는 출발점을 제공하며, 48개 명제가 오직 이것들과 앞선 명제만을 근거로 증명됩니다. 명제가 앞에 올 수 없는 이유는 근거가 아직 마련되지 않았기 때문입니다.
문제 2. 유클리드 이전 이집트·바빌로니아 수학과 원론의 결정적 차이는 무엇일까요?
이집트·바빌로니아에도 정확하고 유용한 계산 기법이 있었습니다. 차이는 정확성이 아니라 정당화의 방식입니다. 원론은 "왜 반드시 참인가"를 유한한 논증 사슬로 제시하는 증명 형식을 표준화했습니다.
문제 3. 공리적 방법이 수학 바깥으로 번진 사례로 본문이 든 것은 무엇일까요?
스피노자는 윤리학을 기하학적 순서로 증명했고, 뉴턴은 정의와 운동 법칙에서 명제를 연역했으며, 독립선언서는 자명한 진리에서 결론을 이끄는 공준·연역 구조의 수사를 썼습니다. 셋 모두 원론의 건축 양식을 빌린 것입니다.
문제 4. 다섯 번째 공준이 처음부터 의심받은 이유는 무엇일까요?
앞의 네 공준은 짧고 직관적으로 자명하지만 다섯 번째는 조건문 형태의 복잡한 진술입니다. 그래서 공준의 자격, 즉 "증명 없이 받아들일 만함"이 의심받았고 나머지 공준들로부터 증명하려는 시도가 2000년간 이어졌습니다. 틀린 진술이어서가 아니라 자명하지 않아서가 문제였죠.

생각해볼 질문 (정답 없음)

  • 공준 자체는 증명되지 않습니다. 그렇다면 공준의 선택을 정당화하는 것은 무엇일까요? 자명함일까요, 유용함일까요, 아니면 취향일까요?
  • 윤리학이나 정치를 기하학처럼 공리화하려던 시도는 왜 수학만큼 성공하지 못했을까요?

이전: 대수학 5강 · 다음: 2강 비유클리드 기하학

모던지 · 궁금하면 모던지 GitHub · 2026-09-10