대수학 5강. 추상화의 힘
현대 수학은 대상이 "무엇인지" 묻지 않고 "어떻게 행동하는지" 묻습니다. 그리고 가장 쓸모없어 보이던 이 태도가 가장 큰 쓸모로 되돌아왔습니다.
풀고 시작
대상에서 구조로
이 과목의 여정을 돌아보면 한 방향의 이동이 보입니다. 1강의 수학은 특정한 방정식을 풀었습니다. 2강과 3강의 수학은 정수, 대칭, 시계 산술이라는 서로 다른 대상들에서 공통의 규칙을 추려 군, 환, 체라는 이름을 붙였죠. 4강의 갈루아는 문제를 구조의 언어로 번역해 판정했습니다. 이 이동, 즉 개별 대상에서 구조로 시선을 옮기는 것이 현대 수학의 방법입니다. 추상화는 내용을 비우는 일이 아니라 본질만 남기고 우연을 지우는 일입니다. 군의 정리 하나를 증명하면, 그 정리는 정수에서도 회전에서도 암호에서도 동시에 참이 됩니다. 한 번의 증명이 무한히 많은 세계에 적용되는 것, 이것이 추상화의 경제학이죠. 물론 대가도 있습니다. 공리에서 출발하는 서술은 구체적 그림을 잃기 쉽고, 실제로 20세기 수학 교육은 추상을 앞세우다 직관을 잃는다는 비판을 여러 차례 받았습니다. 추상과 구체 사이의 왕복이 끊기면 추상은 공허해집니다.
동형: 같음의 새로운 정의
추상화의 눈으로 보면 "같다"의 의미가 바뀝니다. 시계 산술 Z/12Z의 덧셈과, 정12각형을 30°씩 돌리는 회전들의 군을 비교해 볼까요? 하나는 수이고 하나는 움직임이지만, 원소끼리 짝을 지어 주면 한쪽의 연산이 다른 쪽의 연산과 완벽히 포개집니다. 이런 구조 보존 대응이 존재할 때 두 구조가 동형(isomorphism 관계)이라 합니다. 수학자에게 동형인 두 군은 그냥 같은 군입니다. 재료가 다를 뿐 형태가 같기 때문이죠. 이 관점 덕분에 "가능한 구조를 전부 분류한다"는 기획이 성립합니다. 유한체가 크기 pⁿ마다 본질적으로 하나뿐이라는 3강의 사실도, 동형을 같음으로 세는 관점 위에서만 의미를 갖는 진술입니다.
뇌터, 추상대수학의 성립
이 방법을 학문의 표준으로 만든 중심 인물이 뇌터(Emmy Noether, 1882~1935)입니다. 여성이라는 이유로 괴팅겐 대학은 그의 교수 자격 심사를 거부했고, 힐베르트가 "대학은 목욕탕이 아니다"라며 항의한 일화가 남아 있습니다. 수년간 힐베르트 명의로 강의해야 했던 뇌터는 1920년대에 환의 이데알 이론을 공리적으로 재구성하며, 계산 중심이던 대수학을 구조와 공리 중심의 학문으로 바꿔 놓았습니다. 그의 강의를 들은 판데르바르던(van der Waerden)이 1930년 무렵 펴낸 교과서 『현대 대수학』이 이 방식을 세계로 퍼뜨렸고, 오늘날 대학의 대수학 커리큘럼은 사실상 이 책의 후손입니다. 뇌터는 1933년 나치의 유대인 공직 추방으로 독일을 떠나 미국에서 생을 마쳤습니다. 아인슈타인은 추도문에서 그를 당대 가장 중요한 창조적 수학 천재로 꼽았죠. 2강에서 본 물리학의 뇌터 정리와 이 강의 추상대수학이 같은 사람의 작업이라는 사실도 기억해 둘 만합니다.
역설: 가장 추상적인 것이 가장 실용적이 되다
수론을 두고 "전쟁에 쓰일 일 없는 순수한 학문"이라 자랑하던 시대가 있었습니다. 그런데 역사는 정반대로 갔습니다. 오늘날 인터넷 보안의 근간인 RSA 암호(1977)는 소수와 나머지 산술, 곧 3강의 Z/nZ 위에서 돌아가고, 더 효율적인 타원곡선 암호는 곡선 위의 점들이 이루는 군을 씁니다. QR 코드와 우주 탐사선 통신이 잡음 속에서 데이터를 복원하는 리드-솔로몬 부호는 유한체 위의 다항식 이론이죠. 물리학의 표준모형은 대칭군의 언어로 쓰여 있습니다. 구조만 남기고 우연을 지웠기에, 그 구조가 나타나는 곳이라면 어디든 이론이 통째로 이식됩니다. 추상화는 응용에서 멀어지는 길이 아니라, 응용의 범위를 미리 알 수 없을 만큼 넓히는 길이었습니다. 다음 과목에서는 같은 공리적 정신의 원조, 유클리드의 기하학으로 갑니다.
인출 문제
생각해볼 질문 (정답 없음)
- 동형인 두 군을 "같은 군"으로 부르는 태도는 발견일까요, 규약일까요? "같음"을 수학자가 정의할 수 있다면, 철학의 동일성 문제와는 어떻게 만날까요?
- 응용을 겨냥하지 않은 연구가 최대의 응용을 낳는 일이 반복된다면, 연구 지원은 무엇을 기준으로 해야 할까요?