모던지 / 수학 / 선형대수 4강. 고유값과 고유벡터: 행렬의 본성

선형대수 4강. 고유값과 고유벡터: 행렬의 본성

행렬의 정체를 알고 싶다면, 그 행렬이 방향을 바꾸지 못하는 벡터를 찾으면 됩니다.

풀고 시작

문제 1. 어떤 벡터 v가 행렬 A의 고유벡터라는 것의 의미는?
고유벡터의 조건은 Av = λv, 즉 변환 후에도 자기 방향의 직선을 벗어나지 않는 것입니다. 길이는 고유값 λ배로 변해도 좋죠. 전혀 변하지 않는 것은 λ = 1인 특수한 경우이고, 영벡터가 되는 것은 λ = 0인 경우입니다.

변환이 방향을 바꾸지 못하는 벡터

2강에서 행렬은 공간을 휘젓는 변환이라고 했습니다. 대부분의 벡터는 변환을 거치면 방향이 틀어지죠. 그런데 어떤 특별한 벡터들은 변환 후에도 자기 방향의 직선 위에 그대로 남습니다. 길이만 늘거나 줄거나 뒤집힐 뿐이죠. 이런 벡터를 고유벡터(eigenvector), 그 길이 배율을 고유값(eigenvalue)이라 합니다. 식으로는 Av = λv입니다. 지구본을 돌릴 때 자전축 위의 점들이 방향을 지키는 것이 좋은 그림이죠. 3차원의 모든 회전에 회전축이 존재한다는 사실은 1775년 오일러(Leonhard Euler)가 증명했고, 이것이 고유벡터 개념의 원형 중 하나입니다. "eigen"은 독일어로 "고유한, 자기 자신의"라는 뜻이며, 20세기 초 힐베르트(David Hilbert)의 용어가 국제 표준으로 굳었습니다.

고유벡터가 왜 행렬의 "본성"일까요. 고유벡터 방향에서 행렬은 단순한 곱셈으로 행동하기 때문입니다. 고유벡터들로 기저를 짤 수 있으면(1강의 기저 선택 문제죠), 그 좌표계에서 행렬은 각 축을 따로따로 λ배 하는 가장 단순한 변환이 됩니다. 복잡해 보이는 행렬의 겉모습 아래 숨은 뼈대가 고유값들인 셈입니다.

고유값이 말해 주는 것

고유값은 변환의 운명을 요약합니다. 행렬을 거듭 적용하는 상황을 봅시다. 고유값이 λ인 방향의 성분은 n번 적용 후 λⁿ배가 됩니다. 절대값이 1보다 크면 그 방향은 폭발하고, 1보다 작으면 소멸하며, 1이면 유지되죠. 어떤 초기 벡터든 고유벡터들의 결합으로 쪼개 놓으면, 오래 반복했을 때 살아남는 것은 가장 큰 고유값의 방향뿐입니다. 계의 장기 행동이 고유값 몇 개로 예언되는 것이죠. 인구의 연령 구조 변화, 마르코프 연쇄의 수렴, 반복 계산의 안정성이 모두 이 원리 하나로 읽힙니다.

구글 검색은 고유벡터 계산이다

이 원리의 가장 유명한 응용이 구글의 페이지랭크(PageRank)입니다. 브린(Sergey Brin)과 페이지(Larry Page)가 1998년 논문에서 제안한 아이디어는 이렇습니다. 웹페이지의 중요도는 그 페이지를 가리키는 링크들에서 오되, 중요한 페이지가 주는 링크일수록 더 큰 가중치를 갖습니다. 이 순환적 정의는 "웹 전체의 링크 구조를 담은 거대한 행렬에 대해, 곱해도 자기 자신이 되는 중요도 벡터를 찾아라"라는 문제, 곧 고유값 1에 대한 고유벡터 찾기와 같죠. 무작위로 링크를 따라다니는 서퍼가 오랜 시간 뒤 각 페이지에 머무는 확률 분포가 바로 그 고유벡터입니다. 수십억 페이지 규모에서는 행렬을 반복해서 곱해 가장 큰 고유값의 방향만 남기는 거듭제곱법(power method)으로 근사합니다. 앞 절의 "결국 최대 고유값 방향만 살아남는다"는 원리가 검색 엔진의 심장이 된 것이죠.

데이터, 진동, 안정성

응용은 검색에 그치지 않습니다. 주성분 분석(PCA, principal component analysis)은 고차원 데이터의 공분산 행렬에서 고유벡터를 구해, 데이터가 가장 넓게 퍼진 방향들을 찾는 기법입니다. 큰 고유값 몇 개의 방향만 남기면 정보 손실을 최소로 하면서 차원을 줄일 수 있어, 얼굴 인식과 유전체 분석과 금융 데이터 압축의 표준 도구가 됐죠. 공학에서는 다리와 건물의 고유진동수가 진동 방정식의 고유값에서 나옵니다. 외부 진동이 구조물의 고유진동수와 겹치면 공명으로 진폭이 위험하게 커지므로, 설계자는 고유값부터 계산합니다. 미분방정식으로 기술되는 계의 안정성 판정도 고유값의 부호를 봅니다. 모든 고유값의 실수부가 음수면 교란이 저절로 잦아드는 안정한 계죠. 행렬의 본성을 묻는 하나의 질문이 검색, 데이터, 구조물, 동역학을 관통합니다. 다음 과목에서는 시선을 수학 그 자체로 돌려, 수학이란 무엇인가라는 기초론의 질문을 다룹니다.

인출 문제

문제 1. 반시계 90도 회전을 나타내는 2×2 행렬이 실수 고유벡터를 갖지 않는 이유는?
고유벡터는 변환 후에도 자기 직선 위에 남아야 하는데, 평면의 90도 회전은 모든 방향을 예외 없이 돌려 버립니다. 따라서 실수 범위에는 고유벡터가 없죠(고유값은 허수가 됩니다). 회전은 어엿한 선형변환이고 행렬식은 1입니다.
문제 2. 절대값이 가장 큰 고유값이 반복 적용에서 갖는 의미는?
초기 벡터를 고유벡터들의 결합으로 쪼개면 각 성분은 n번 적용 후 자기 고유값의 n제곱 배가 됩니다. 지수적 경쟁에서는 밑이 가장 큰 항이 결국 승리하므로 장기 행동은 최대 고유값 방향으로 수렴하죠. 거듭제곱법이 이 성질을 계산에 이용합니다.
문제 3. 페이지랭크가 고유벡터 문제인 이유는?
각 페이지의 중요도가 자신을 가리키는 페이지들의 중요도로 정의되므로, 중요도 벡터는 링크 구조 행렬을 곱했을 때 변하지 않아야 합니다. 이는 고유값 1에 대한 고유벡터의 정의 그 자체죠. 무작위 서퍼의 장기 체류 확률 분포라는 해석도 같은 벡터를 가리킵니다.
문제 4. 주성분 분석(PCA)에서 큰 고유값에 대응하는 고유벡터가 뜻하는 것은?
공분산 행렬의 고유벡터는 데이터가 퍼진 주된 축이고, 고유값은 그 축 방향의 분산 크기입니다. 큰 고유값의 방향 몇 개만 남기면 퍼짐(정보)을 최대한 보존하며 차원을 줄이죠. 잡음 제거는 오히려 작은 고유값 방향을 버리는 쪽에 해당합니다.

생각해볼 질문 (정답 없음)

  • 1940년 미국 터코마 해협 다리는 바람 속에서 크게 출렁이다 무너졌습니다. 구조물의 고유진동 관점에서 이 사고를 어떻게 서술할 수 있고, 이 관점만으로 설명이 끝나지 않는 이유는 무엇일까요.

이전: 3강 연립방정식과 가우스 소거법 · 다음: 수학기초론 1강

모던지 · 궁금하면 모던지 GitHub · 2026-09-10