조르당 표준형

개요 — 동기·문제의식

스펙트럼 정리은 최선의 경우 — 대칭/에르미트/유니터리 — 를 다뤘다. 그러나 일반적인 연산자는 대각화조차 안 될 수 있다. 가장 단순한 반례: $A=\begin{pmatrix}0&1\\0&0\end{pmatrix}$는 고유값이 $0$ 하나뿐인데 고유공간은 $1$차원뿐이다 — 고유벡터가 공간 전체를 채우지 못한다(중복도 $2$인데 고유벡터는 $1$개). 삼각화와 일차분해은 복소수 위에서 항상 삼각화는 가능함을 보장하지만, 삼각행렬은 비대각 성분이 임의적이어서 "최선의 형태"라 부르기엔 부족하다.

Jordan 표준형이 답한다: 복소수 위에서, 대각화가 실패할 때 도달할 수 있는 최선의 거의-대각 형태가 무엇인가? 답은 "대각선 위에 고유값, 그 바로 위에 $1$들"이라는 극히 단순한 패턴 — Jordan 블록 — 의 직합이다. 이는 연산자의 다항식에서 다항식환 $K[t]$에 투자한 모든 노력이 결실을 맺는 지점이며, 본질적으로 $\mathbb{C}[t]$ 위의 유한생성 가군의 구조정리를 단일 연산자에 특화한 것이다.

직관

행렬 $A-\alpha I$가 멱영(nilpotent)이라고 하자(전체 고유값 $\alpha$ 하나뿐인 경우로 환원된 상황). 멱영 연산자는 "차츰 죽어가는" 사상이다 — 어떤 벡터 $v$에 반복해서 적용하면 결국 $0$이 된다. 이 "죽음에 이르는 사슬" $v, Bv, B^2v,\dots, B^{r-1}v$ (여기서 $B^rv=0$이지만 $B^{r-1}v\ne0$)를 기저로 채택하면, $B$의 작용이 정확히 "한 칸씩 사슬을 따라 내려가기"가 되고, 이를 행렬로 적으면 대각선 바로 위에 $1$들이 늘어선 모양이 나온다. 이 사슬 하나가 순환부분공간(cyclic subspace) 이고, 그 위에서 $A=\alpha I+B$의 행렬이 Jordan 블록이다.

일반적인 연산자는 이런 사슬 하나로는 안 끝난다 — 공간을 여러 개의 사슬(순환부분공간)의 직합으로 쪼개야 한다. Jordan 정리의 핵심 주장은 항상 그렇게 쪼갤 수 있다는 것 — 그 쪼개짐 방식(블록의 개수·크기)이 $A$의 닮음류를 완전히 결정하는 불변량이 된다.

정의

$V$를 복소수 위의 유한차원 벡터공간, $A:V\to V$를 연산자라 하자. 삼각화와 일차분해에 의해 일반화고유공간으로 분해한 뒤, 각 조각 위에서 $(A-\alpha I)^r=O$라 가정할 수 있다. $B=A-\alpha I$로 두면 $B$는 멱영(nilpotent): $B^r=O$, $B^{r-1}\ne O$.

$(A-\alpha I)$-순환 벡터. $v\in V$, $v\ne O$가 어떤 양의 정수 $r$에 대해 $(A-\alpha I)^rv=O$를 만족하면 $v$를 $(A-\alpha I)$-순환적이라 한다. 이를 만족하는 가장 작은 $r$을 $v$의 주기(period) 라 부른다.¹

보조정리 6.1. $v\ne O$가 $B=A-\alpha I$에 대해 주기 $r$의 순환벡터이면, $v, Bv, B^2v, \dots, B^{r-1}v$는 일차독립이다.²

순환공간(cyclic subspace). $V$ 자체가 어떤 $\alpha$와 순환벡터 $v$에 대해 $v,Bv,\dots,B^{r-1}v$로 생성되면 $V$를 순환(cyclic) 이라 부른다. 이때 보조정리 6.1에 의해 $$\{v,\ Bv,\ B^2v,\ \dots,\ B^{r-1}v\}\tag{*}$$ 는 $V$의 기저이고, 이 순서로 적으면 $A=\alpha I+B$의 행렬은 $$J=\begin{pmatrix}\alpha&1&&\\&\alpha&\ddots&\\&&\ddots&1\\&&&\alpha\end{pmatrix}\quad(r\times r)$$ — 대각선에 $\alpha$, 바로 위에 $1$, 그 외는 $0$인 삼각행렬이다.³ 기저 $(*)$를 Jordan 기저(Jordan basis) 라 한다. $B^{r-1}v=(A-\alpha I)^{r-1}v$는 고유값 $\alpha$를 갖는 고유벡터다(사슬의 맨 끝).

$V$가 $A$-안정 부분공간들의 직합 $V=V_1\oplus\cdots\oplus V_m$으로 표현되고 각 $V_i$가 순환이면, 각 $V_i$의 Jordan 기저들을 이어붙인 것이 $V$ 전체의 Jordan 기저이고, 이에 대한 $A$의 행렬은 Jordan 블록들의 블록대각행렬 — 이것이 Jordan 표준형이다.⁴

주요 정리

정리 6.2 (Jordan 표준형의 존재). $V\ne\{O\}$를 복소수 위의 유한차원 공간, $A:V\to V$를 연산자라 하자. 그러면 $V$는 $A$-안정 순환부분공간들의 직합으로 표현된다.⁵

1단계 (차원 귀납). $BV\subsetneq V$다 — 왜냐하면 $B^{r-1}w\ne O$인 $w$가 있어 $v_0=B^{r-1}w$로 두면 $Bv_0=O$, 즉 $\ker B\ne\{O\}$이고 차원공식 $\dim V=\dim BV+\dim\ker B$에서 $\dim BV<\dim V$.

2단계 (귀납가설 적용). $\dim BV<\dim V$이므로 귀납가설로 $BV=W_1\oplus\cdots\oplus W_m$ (각 $W_i$는 $B$-안정 순환, 순환벡터 $w_i$, 주기 $r_i$). 각 $w_i$에 대해 $Bv_i=w_i$인 $v_i\in V$를 고른다(가능 — $w_i\in BV$). 그러면 $v_i$는 $B$에 대해 순환적이며 주기는 $r_i+1$ — $B^{r_i+1}v_i=B^{r_i}w_i=O$이고 $B^{r_i}v_i=B^{r_i-1}w_i\ne O$.

3단계 (직합 확인). $V_i$를 $B^kv_i$ ($k=0,\dots,r_i$)로 생성되는 부분공간이라 하면, $V'=V_1+\cdots+V_m$이 직합임을 보인다. $\sum_i f_i(B)v_i=O$라 가정하고 양변에 $B$를 적용하면 $\sum_i f_i(B)w_i=O$ — $W_i$들이 직합이므로 각 $f_i(B)w_i=O$, 즉 $t^{r_i}\mid f_i(t)$, 특히 $t\mid f_i(t)$. 이를 반복하면 결국 $f_i(B)v_i=O$ for all $i$ — 직합 확인.

4단계 ($V=V'+\ker B$). $BV'=BV$이므로(구성에서 명백) 임의의 $v\in V$에 대해 $Bv=Bv'$인 $v'\in V'$가 있어 $v-v'\in\ker B$, 즉 $V=V'+\ker B$(직합은 아님). $\ker B$의 기저 $\{u_1,\dots,u_s\}$ 중 일부를 추가하여 $V'$의 Jordan 기저를 $V$ 전체의 기저로 확장한다. 각 $u_j$는 $Bu_j=O$인 고유벡터이므로 $1$차원 순환부분공간 $U_j$를 이룬다. 결국 $V=V_1\oplus\cdots\oplus V_m\oplus(\text{일부 }U_j)$ — 순환부분공간들의 직합. ∎

왜 이 증명이 작동하는가. 핵심 아이디어는 차원이 줄어드는 $BV$에서 귀납을 시작하고, 그 위의 순환구조를 $B$로 "한 단계 끌어올려" $V$에서의 순환구조로 만든 다음, 빠뜨린 차원($\ker B$ 중 못 끌어올린 부분)을 $1$차원 고유공간 조각으로 채워 넣는 것이다.

무엇을 성취하는가

Jordan 형은 복소수 위에서 완전한 닮음 불변량이다: 두 복소행렬이 닮음 $\iff$ (블록 순서를 무시하면) 같은 Jordan 형을 갖는다. 이전의 모든 결과를 정련한다:

• 대각화 가능 $\iff$ 모든 Jordan 블록의 크기가 $1$ $\iff$ 최소다항식이 서로 다른 일차인수들의 곱(연산자의 다항식).
• 일반화고유공간은 정확히 삼각화와 일차분해의 주분해 성분들이다; $\alpha$에 대한 블록 크기들이 $A-\alpha I$의 멱영구조를 인코딩한다.
• $A=D+N$ 분해를 구체적으로 실현한다: $D$는 고유값들의 대각, $N$은 비대각 $1$들 — $DN=ND$이고, $0$이 아닌 멱영 연산자는 결코 대각화되지 않는다.⁶

예제

예제 1 (가장 단순한 비대각화 사례, $2\times2$). $A=\begin{pmatrix}2&1\\0&2\end{pmatrix}$. 특성다항식 $(2-t)^2$, 유일한 고유값 $\alpha=2$ (중복도 $2$). 고유벡터: $(A-2I)X=O\Rightarrow\begin{pmatrix}0&1\\0&0\end{pmatrix}X=O\Rightarrow y=0$ — 고유공간은 $\langle(1,0)\rangle$, $1$차원뿐. 대각화 불가능(고유공간 차원 $1<$ 대수적 중복도 $2$). $B=A-2I=\begin{pmatrix}0&1\\0&0\end{pmatrix}$는 멱영($B^2=O$). 일반화고유벡터를 찾는다: $w=(0,1)$로 두면 $Bw=(1,0)=v_0\ne O$, $B v_0=O$ — 사슬 $\{w, Bw\}=\{(0,1),(1,0)\}$이 보조정리 6.1에 의해 일차독립, 따라서 Jordan 기저. 이 순서 $\{Bw, w\}=\{(1,0),(0,1)\}$로 다시 정렬(사슬은 $v,Bv,\dots$ 순서이므로 $v=w=(0,1)$, $Bv=(1,0)$): 기저 $\{v,Bv\}=\{(0,1),(1,0)\}$에 대해 $A$의 작용은 $Av=2v+Bv$(즉 $A(0,1)=(1,2)=1\cdot(1,0)+2\cdot(0,1)$ ✓), $A(Bv)=2Bv$(즉 $A(1,0)=(2,0)=2(1,0)$ ✓). 이 기저에 대한 행렬은 정확히 $\begin{pmatrix}2&1\\0&2\end{pmatrix}$ — 이미 Jordan 형이었다.

예제 2 (비자명한 $2\times2$, 표준기저가 Jordan 기저가 아닌 경우). $A=\begin{pmatrix}3&-1\\1&1\end{pmatrix}$. 특성다항식 $(3-t)(1-t)+1=t^2-4t+4=(t-2)^2$, 고유값 $\alpha=2$(중복도 $2$). $(A-2I)=\begin{pmatrix}1&-1\\1&-1\end{pmatrix}$, 고유벡터: $x-y=0\Rightarrow X=(1,1)$ — $1$차원뿐, 대각화 불가능. $B=A-2I=\begin{pmatrix}1&-1\\1&-1\end{pmatrix}$, $B^2=\begin{pmatrix}1-1&-1+1\\1-1&-1+1\end{pmatrix}=O$ — 멱영 확인. 일반화고유벡터 $w$를 $Bw\ne O$이고 $Bw\in\ker B$가 되도록 찾는다: $w=(1,0)$이면 $Bw=(1,1)$, 그리고 $B(Bw)=B(1,1)=(1-1,1-1)=(0,0)$ ✓ ($Bw$가 고유벡터). 사슬 $\{v,Bv\}=\{(1,0),(1,1)\}$이 기저. 검산: $Av=A(1,0)=(3,1)=2(1,0)+1\cdot(1,1)=(2,0)+(1,1)=(3,1)$ ✓, $A(Bv)=A(1,1)=(2,2)=2(1,1)$ ✓. 이 기저 $\{v,Bv\}=\{(1,0),(1,1)\}$에 대한 $A$의 행렬은 $\begin{pmatrix}2&1\\0&2\end{pmatrix}$ — Jordan 표준형이다. 표준기저로는 비대각 성분 $-1,1$로 지저분했던 $A$가, 일반화고유벡터 기저에서는 표준 Jordan 블록으로 정돈된다.

예제 3 ($3\times3$, 블록 두 개로 쪼개지는 경우). $A=\begin{pmatrix}2&1&0\\0&2&0\\0&0&2\end{pmatrix}$. 이미 블록대각 형태로 주어져 있다 — $2\times2$ Jordan 블록 $\begin{pmatrix}2&1\\0&2\end{pmatrix}$와 $1\times1$ 블록 $(2)$의 직합. 고유공간(고유값 $2$)의 차원은 $2$ — 표준기저 $e_1,e_3$ 중 $e_3$는 이미 고유벡터, $e_1,e_2$는 $2\times2$ 블록의 사슬($Be_2=e_1$, $Be_1=0$). 이는 "고유값이 하나뿐이어도 블록이 여러 개일 수 있다 — 블록 개수 = 고유공간의 차원"이라는 사실을 보여준다.

예제 4 ($D+N$ 분해 확인, 예제 2 계속). 예제 2의 $A=\begin{pmatrix}3&-1\\1&1\end{pmatrix}$를 새 기저 $\{(1,0),(1,1)\}$에서 보면 $A=\begin{pmatrix}2&1\\0&2\end{pmatrix}=\underbrace{\begin{pmatrix}2&0\\0&2\end{pmatrix}}_{D}+\underbrace{\begin{pmatrix}0&1\\0&0\end{pmatrix}}_{N}$. $D=2I$는 대각화 가능(이미 대각), $N$은 멱영($N^2=O$), $DN=2N=ND$ — 정리(연습 §XI.6.1)가 보장하는 $A=D+N$ 분해의 구체적 사례.

예제 5 (추상적 사례: $K[t]/(t^r)$로서의 순환공간). 순환부분공간 $V$는 $K[t]$-가군으로서 $K[t]/((t-\alpha)^r)$과 동형이다 — 다항식 $f(t)$가 벡터 $v\bmod (t-\alpha)^r$에 작용하는 구조. 이 관점에서 Jordan 정리는 "유한생성 $K[t]$-가군은 순환 가군들의 직합으로 분해된다"는 구조정리(주 아이디얼 정역 위의 가군 분류)를 단일 연산자(즉 하나의 $t$의 작용)에 적용한 특수사례다 — Lang이 다항식환에 들인 투자(유클리드 호제법, 아이디얼, 최대공약수, §XI.1–2)가 정확히 여기서 결실을 맺는다.

흔한 오해와 함정

• "고유값이 하나면 블록도 하나" — 틀림. 예제 3처럼 같은 고유값에 여러 개의 Jordan 블록이 있을 수 있다. 블록의 개수는 그 고유값에 대한 고유공간의 차원과 같다.
• "대수적 중복도 = 기하적 중복도라고 가정하고 대각화 시도" — 일반적 연산자에서는 거짓. 대수적 중복도(특성다항식에서의 차수)는 기하적 중복도(고유공간 차원) 이상이며, 등호가 성립할 때만(모든 고유값에서) 대각화 가능.
• 삼각화와 Jordan 형을 혼동 — 삼각화(triangulation)는 비대각 위쪽 성분이 임의적이어도 되는 약한 결과; Jordan 형은 그 비대각 성분을 정확히 $0$ 또는 $1$로 표준화한 최선의 형태.
• Jordan 기저를 표준 고유벡터만으로 찾으려 함 — 고유공간이 부족하므로 반드시 일반화고유벡터($(A-\alpha I)^kv=O$, $k>1$)를 사슬로 엮어야 한다. 표준기저가 우연히 Jordan 기저가 되는 경우(예제 1)는 예외적이다.
• 실수 위에서도 Jordan 형이 항상 존재한다고 가정 — 정리 6.2는 명시적으로 복소수 위에서 성립한다. 복소수 위에서만 모든 연산자가 고유값을 갖는다는 사실(Thm 2.3, 고윳값과 특성다항식)에 의존하기 때문이다.
• Jordan 형이 유일하다고 착각 — 블록 자체(크기·고유값)는 유일하지만, 블록들을 나열하는 순서는 임의로 바꿀 수 있다("up to a rearrangement").

큰 그림 / 연결

Jordan 형은 삼각화와 일차분해의 일반화고유공간 분해를 한 단계 더 정련한 결과이며, 연산자의 다항식의 최소다항식이 블록 크기의 상한을 결정한다(가장 큰 블록의 크기 = 그 고유값에 대한 최소다항식의 인수 차수). 스펙트럼 정리과는 정반대의 극단을 이룬다 — 스펙트럼 정리가 "최선의 경우(대칭/에르미트/유니터리는 항상 완전 대각화)"라면, Jordan 형은 "일반적인 경우의 최선(대각화가 실패해도 거의-대각까지는 항상 도달)"이다. 더 멀리는, Jordan 형이 행렬과 선형방정식에서 처음 마주친 선형 점화식이나 미분방정식 $\dot X=AX$의 해를 결정한다 — 멱영 부분 $N$이 $te^{\alpha t}, t^2e^{\alpha t},\dots$ 같은 "공명항"을 만들어내는 것이 정확히 미분방정식 이론에서 중복근이 다항식-지수함수 해를 낳는 현상이다. 추상대수학에서는 주 아이디얼 정역 위의 유한생성 가군의 구조정리의 특수사례로 일반화된다.

연습문제

1. $A=\begin{pmatrix}5&1\\0&5\end{pmatrix}$의 Jordan 형이 이미 표준형임을 확인하고, 표준기저가 Jordan 기저임을 보여라.
2. $A=\begin{pmatrix}4&1\\-1&2\end{pmatrix}$의 고유값을 구하고, 대각화 가능한지 판정하라. 불가능하면 Jordan 기저를 찾아라.
3. $A=\begin{pmatrix}1&1&0\\0&1&1\\0&0&1\end{pmatrix}$의 Jordan 형을 구하라(이미 표준형인지 확인).
4. $N=\begin{pmatrix}0&1&0\\0&0&0\\0&0&0\end{pmatrix}$이 멱영임을 보이고, $N$의 Jordan 형을 구하라(블록이 몇 개, 각각 크기는?).
5. $A=\begin{pmatrix}2&1\\0&2\end{pmatrix}$에 대해 $A=D+N$ ($D$ 대각화가능, $N$ 멱영, $DN=ND$) 분해를 명시적으로 쓰고 검산하라.
6. 정리 6.2의 증명에서 4단계가 왜 직합이 아니라 단순한 합($V=V'+\ker B$)인지 설명하라. ($V'\cap\ker B$가 자명하지 않을 수 있는 이유는?)
7. 어떤 $3\times3$ 멱영행렬이 $N^2\ne O$, $N^3=O$를 만족하면 그 Jordan 형이 단일 $3\times3$ 블록임을(즉 순환적임을) 설명하라.
8. $A$가 대각화 가능하면서 동시에 멱영이면 $A=O$임을 보여라. (Jordan 형의 관점에서: 멱영의 고유값은 모두 $0$이므로...)

관련 개념

• 삼각화와 일차분해 — Jordan 블록이 사는 일반화고유공간
• 연산자의 다항식 — 최소다항식이 블록 크기를 지배; Cayley–Hamilton
• 고윳값과 특성다항식 — 대각원소가 고유값
• 스펙트럼 정리 — 정반대 극단의 대각화 가능한 경우
• 선형사상과 행렬 — Jordan 형은 닮음의 표준 대표