대수학 1강. 방정식의 역사: 바빌로니아에서 아벨까지
4000년 동안 수학자들은 더 높은 차수의 근의 공식을 찾아 올라갔습니다. 그 사다리는 5차에서 끊어져 있었고, 끊어져 있음을 증명한 것이 현대 대수학의 출발점입니다.
풀고 시작
점토판 위의 2차 방정식
여러분이 학교에서 배운 2차 방정식 풀이, 그 절차를 4000년 전 사람들도 이미 알고 있었다면 믿으시겠습니까? 기원전 1800년경 바빌로니아의 서기관들은 "정사각형의 넓이에서 한 변을 뺐더니 870이다" 같은 문제를 풀었습니다. 기호도 음수도 없었지만, 점토판에 적힌 풀이 절차를 현대 기호로 옮기면 정확히 완전제곱식 만들기, 즉 2차 방정식의 근의 공식과 같은 절차입니다. 다만 그들에게 이것은 증명된 공식이 아니라 요리법처럼 전수되는 절차였습니다. "왜 되는가"를 묻는 일반 이론은 아직 없었죠. 그럼에도 4000년 전의 서기관과 오늘의 학생이 같은 절차로 같은 답에 도달한다는 사실은, 방정식이라는 문제의식이 얼마나 오래된 것인지 보여줍니다.
알콰리즈미, 대수라는 이름의 탄생
algebra와 algorithm, 이 두 단어가 한 사람에게서 나왔다는 사실을 아시나요? 9세기 바그다드의 지혜의 집에서 활동한 알콰리즈미(al-Khwarizmi, 약 780~850)는 830년경 방정식 풀이를 체계화한 책을 썼습니다. 제목에 든 알자브르(al-jabr)는 "복원"이라는 뜻으로, 이항하여 음의 항을 없애는 조작을 가리킵니다. 이 단어가 유럽으로 건너가 algebra(대수학)가 되었고, 그의 이름 자체는 algorithm(알고리즘)의 어원이 되었죠. 알콰리즈미의 기여는 특정 문제의 답이 아니라, 방정식을 표준형으로 분류하고 각 형태의 일반 해법을 기하학적 논증으로 정당화한 체계화에 있습니다. 바빌로니아가 요리법을 남겼다면, 알콰리즈미는 요리법들을 분류하고 각각이 왜 되는지 근거를 붙인 셈입니다. 방정식이 개별 문제가 아니라 하나의 학문 대상이 된 순간입니다.
3차 방정식, 결투와 배신의 드라마
16세기 이탈리아에서 수학 실력은 공개 시합으로 겨루는 생계 수단이었고, 해법은 곧 영업 비밀이었습니다. 그러니 3차 방정식의 해법을 둘러싸고 배신의 드라마가 벌어진 것도 이상한 일이 아니죠. 델 페로(del Ferro)가 특수한 3차 방정식의 해법을 처음 찾아 제자에게만 물려주었고, 타르탈리아(Tartaglia)가 1535년의 공개 시합을 앞두고 독자적으로 해법을 재발견해 완승했습니다. 카르다노(Cardano, 1501~1576)는 비밀을 지키겠다고 맹세하고 타르탈리아에게서 해법을 전수받았습니다. 그러나 델 페로의 유고에서 더 앞선 해법을 확인한 카르다노는 맹세가 무효라 판단하고, 1545년 『아르스 마그나』에 3차 해법과 제자 페라리(Ferrari)의 4차 해법을 함께 출판해 버립니다. 타르탈리아는 격분했고 논쟁은 평생 이어졌습니다. 수학사의 오점 같은 이 사건이 남긴 것은 의외로 큽니다. 3차 공식의 계산 과정에서 음수의 제곱근이 불가피하게 등장했고, 이것이 복소수를 수학에 들여온 문 중 하나가 되었으니까요.
아벨, 사다리의 끝
2차, 3차, 4차까지 공식이 나왔으니 5차도 시간문제로 보였습니다. 그러나 250년 넘게 아무도 성공하지 못했죠. 왜였을까요? 라그랑주는 1770년경 기존 해법들을 하나의 관점으로 통합해 분석하다가, 근들을 서로 뒤바꾸는 치환의 구조가 열쇠임을 감지했습니다. 낮은 차수에서 통하던 기법이 5차에서 구조적으로 막힌다는 불길한 신호였습니다. 루피니(Ruffini)가 1799년 불가능성 증명을 발표했지만 논증에 빈틈이 있었고, 노르웨이의 아벨(Abel, 1802~1829)이 1824년 완전한 증명을 내놓습니다. 아벨-루피니 정리입니다. 일반 5차 방정식에는 계수의 사칙연산과 거듭제곱근만으로 된 근의 공식이 존재하지 않습니다. 여기서 주의할 점이 있습니다. x⁵ = 2처럼 근호로 풀리는 5차 방정식도 얼마든지 있습니다. 정리가 막은 것은 모든 5차에 통하는 일반 공식입니다. 가난과 결핵에 시달리던 아벨은 26세에 세상을 떠났고, 베를린 대학의 교수 초빙 편지는 사망 이틀 뒤에 도착했습니다.
그렇다면 어떤 방정식이 풀리고 어떤 방정식이 안 풀리는지를 가르는 기준은 무엇일까요? 이 질문에 답하려면 방정식이 아니라 대칭을 봐야 합니다. 그것이 다음 강의 주제인 군(group)이고, 4강의 갈루아 이론입니다.
인출 문제
생각해볼 질문 (정답 없음)
- "공식이 존재하지 않음"을 증명하는 일은 "공식을 찾는 일"과 어떻게 다른 종류의 사고를 요구할까요?
- 해법을 비밀로 지키던 16세기 수학과 출판으로 공유하는 근대 수학 중, 발견을 더 촉진한 쪽은 어느 쪽이었을까요?