연산자의 다항식

개요 — 동기·문제의식

고윳값과 특성다항식에서 특성다항식 $P_A(t)=\det(tI-A)$의 근이 고유값임을 보았다. 이 페이지의 질문은 한 단계 더 나아간다: 다항식 $f$를 단순히 "근"으로만 쓰는 게 아니라 $f(A)=\sum a_iA^i$ 라는 연산자 자체를 만들면 무슨 일이 일어나는가? 답은 놀랍도록 풍부하다. Lang의 정준형 이론은 정확히 여기서, 즉 다항식 환 $K[t]$가 연산자 $A$에 작용한다는 발상에서 시작한다 — 이것이 이 책에서 가장 "대수적인" 대목이다.¹

핵심 사실 두 가지가 모든 것을 이끈다: (1) 유한차원 공간에서는 $A$를 영으로 만드는 0이 아닌 다항식이 반드시 존재한다(차원 논증), (2) 그런 다항식들의 집합이 $K[t]$의 아이디얼을 이루므로 유일한 monic 생성원 — 최소다항식 — 을 갖는다. 그리고 Cayley–Hamilton 정리는 특성다항식 자신이 그런 다항식 중 하나임을 보장한다. 이 셋을 결합하면 삼각화와 일차분해과 조르당 표준형으로 가는 다리가 놓인다.

직관

$f(A)=O$이라는 식은 "$A$가 다항식 방정식 $f(t)=0$을 만족시킨다"는 뜻이다. 스칼라 $a\in K$가 다항식 방정식을 만족시키면(예: $a^2=1$이면 $a=\pm1$) 그 가능한 값이 제한되듯, 연산자 $A$가 $f(A)=O$을 만족시키면 $A$의 고유값도 $f$의 근으로 제한된다(고유벡터 $v$에 $f(A)v=f(\lambda)v=O$이므로 $f(\lambda)=0$). 그래서 "$A$를 죽이는 가장 작은 다항식"인 최소다항식은 $A$의 고유값 정보를 정확히, 군더더기 없이 담는 대상이다. Cayley–Hamilton은 그런 다항식을 매번 새로 찾을 필요 없이 항상 특성다항식이 그 역할을 한다는 강력한 보장이다 — 마치 "당신이 찾는 답이 이미 알고 있는 공식 안에 들어있다"는 선물과 같다.

정의

$f=\sum_{i=0}^n a_it^i\in K[t]$이고 $A$가 연산자(또는 정사각행렬)일 때 $$f(A)=\sum_{i=0}^n a_iA^i\qquad (A^0=I)$$ 로 정의한다. 이 평가사상(evaluation map) $f\mapsto f(A)$는 환 준동형이다.²

아이디얼. $J\subseteq K[t]$가 0다항식을 포함하고, 덧셈에 닫혀 있고, 임의의 $g\in K[t]$에 대해 $gf\in J$ ($f\in J$)이면 $J$를 아이디얼이라 한다.³ 벡터공간보다 강한 구조 — 스칼라뿐 아니라 임의의 다항식 곱에도 닫혀 있다.

주요 정리

정리 1 (평가사상은 환 준동형). $(f+g)(A)=f(A)+g(A)$, $(fg)(A)=f(A)g(A)$, $(cf)(A)=cf(A)$.²

정리 2 (소멸다항식의 존재). 임의의 $n\times n$ 행렬(또는 유한차원 공간의 연산자) $A$에 대해, $f(A)=O$인 $f\neq0\in K[t]$가 존재한다.⁴

이 논증이 강조하는 점: 존재성은 순수하게 차원 논증에서 나온다 — $A$의 구체적 형태와 무관하게, 유한차원이기만 하면 항상 성립한다.

정리 3 ($K[t]$의 유클리드 호제법, 따름 정리들). $K[t]$는 나눗셈 알고리즘을 갖는다: $f,g\in K[t]$, $\deg g\ge0$이면 $f=qg+r$, $\deg r<\deg g$인 $q,r$이 유일하게 존재한다.⁵ 이로부터: - $K[t]$의 모든 아이디얼은 주아이디얼(단일 생성원)이다 — 영이 아닌 아이디얼 중 차수가 최소인 원소가 생성원이 된다. - 두 다항식의 gcd는 그들이 생성하는 아이디얼의 monic 생성원으로 정의되며, $h_1f_1+h_2f_2=\gcd(f_1,f_2)$를 만족하는 $h_1,h_2$가 존재한다(Bézout 항등식). - $K[t]$의 모든 다항식은 기약다항식들의 곱으로 유일하게(순서·상수배 제외) 인수분해된다.

정의 (최소다항식). 정리 2에 의해 소멸 아이디얼 $J=\{f:f(A)=O\}$는 영이 아니므로, 정리 3에 의해 유일한 monic 생성원을 갖는다 — 이를 $A$의 최소다항식 $m_A(t)$라 한다.⁶ 모든 소멸다항식은 $m_A$로 나누어떨어지며, 특히 $m_A$의 근은 정확히 $A$의 고유값들이다.

정리 4 (대각화 가능성의 최소다항식 판정). $A$가 대각화 가능 $\iff$ 최소다항식이 서로 다른 일차인수의 곱 $\prod_i(t-\lambda_i)$이다(중복 없이).⁷

정리 5 (Cayley–Hamilton). $A$의 특성다항식을 $P$라 하면 $P(A)=O$.⁸

임의의 체 $K$로 확장. 행렬 표현을 통해 일반적인 $K$로 확장된다(특성다항식은 체 확장 후에도 변하지 않으므로 $\mathbb{C}$에서의 결과를 가져올 수 있다).⁹

따름. 최소다항식은 항상 특성다항식을 나눈다($m_A\mid P_A$) — $P_A$도 소멸다항식 중 하나이므로 $J$의 생성원 $m_A$가 이를 나눈다. 둘은 같은 근(고유값 전체)을 공유하지만 중복도는 다를 수 있다.

예제

예제 1 (다항식 평가, 직접 계산). $f(t)=3t^2-2t+5$, $A=\begin{pmatrix}1&1\\0&-1\end{pmatrix}$이라 하면 $A^2=\begin{pmatrix}1&0\\0&1\end{pmatrix}$이므로 $$f(A)=3I-2A+5I=8I-2A=\begin{pmatrix}6&-2\\0&10\end{pmatrix}.$$ 이는 단순히 $f$를 $A$에 대입한 행렬 산술이다.¹⁰

예제 2 (인수분해된 다항식의 적용). $f(t)=(t-1)(t+3)=t^2+2t-3$이면 $f(A)=(A-I)(A+3I)$인데, 이를 직접 행렬곱으로 전개해도 같은 답이 나온다 — 정리 1(준동형 성질)의 직접 확인이다.¹⁰

예제 3 (Cayley–Hamilton의 $2\times2$ 검증). $A=\begin{pmatrix}2&1\\1&2\end{pmatrix}$. 특성다항식: $P(t)=\det(tI-A)=(t-2)^2-1=t^2-4t+3$. 그러면 $$P(A)=A^2-4A+3I.$$ $A^2=\begin{pmatrix}5&4\\4&5\end{pmatrix}$, $4A=\begin{pmatrix}8&4\\4&8\end{pmatrix}$, $3I=\begin{pmatrix}3&0\\0&3\end{pmatrix}$이므로 $$A^2-4A+3I=\begin{pmatrix}5-8+3&4-4+0\\4-4+0&5-8+3\end{pmatrix}=\begin{pmatrix}0&0\\0&0\end{pmatrix}=O.$$ Cayley–Hamilton이 성립함을 직접 확인했다. (참고로 $P(t)=(t-1)(t-3)$이므로 고유값은 $1,3$ — $A$는 대칭이라 스펙트럼 정리에 의해 대각화 가능하고, 따라서 최소다항식도 $(t-1)(t-3)=P(t)$와 같다.)

예제 4 (최소다항식 $\neq$ 특성다항식). $A=\begin{pmatrix}2&1&0\\0&2&0\\0&0&2\end{pmatrix}$. 특성다항식은 $P(t)=(t-2)^3$. 최소다항식을 직접 확인하자: $(A-2I)=\begin{pmatrix}0&1&0\\0&0&0\\0&0&0\end{pmatrix}$이고 $(A-2I)^2=O$. 따라서 $m_A(t)=(t-2)^2$이지 $(t-2)^3$이 아니다 — 최소다항식이 특성다항식보다 차수가 낮다. 두 다항식은 같은 근 $\{2\}$를 공유하지만 중복도가 다르다($P$에서는 3, $m_A$에서는 2). 이 경우 $m_A$가 서로 다른 일차인수의 곱이 아니므로(중복 인수 $(t-2)^2$를 포함) 정리 4에 의해 $A$는 대각화 불가능이다 — 실제로 $(A-2I)$의 핵은 $e_1,e_3$ 두 방향뿐이라 고유공간이 2차원에 그쳐 3차원 기저를 못 채운다.

예제 5 (대각화 가능할 때 최소다항식). $A=\text{diag}(1,1,2)$라면 $P(t)=(t-1)^2(t-2)$이지만 $m_A(t)=(t-1)(t-2)$ — 서로 다른 일차인수의 곱이므로 정리 4와 일치하게 $A$는 (이미 대각이므로 당연히) 대각화 가능.

예제 6 (소멸 아이디얼은 아이디얼). $J=\{f\in K[t]: f(A)=O\}$가 아이디얼임을 직접 확인: $f,g\in J$이면 $(f+g)(A)=f(A)+g(A)=O+O=O$; 임의의 $h\in K[t]$에 대해 $(hf)(A)=h(A)f(A)=h(A)\cdot O=O$. 정리 1의 즉각적 결과다.¹¹

흔한 오해와 함정

• "최소다항식 = 특성다항식"이라고 늘 가정 — 예제 4가 반례. 같은 것은 항상 같은 근을 가진다는 점뿐, 중복도까지 같으려면 $A$가 대각화 가능해야 한다(정리 4).
• Cayley–Hamilton을 "$\det(tI-A)$에 $t=A$를 대입하면 $\det(AI-A)=\det(O)=0$"으로 오해 — 이는 무의미한 논증이다($\det$는 스칼라를 출력하지 인 행렬을 출력하지 않는다; $tI-A$의 "행렬식"에 형식적으로 $t=A$를 넣는 건 정의되지 않은 연산). 실제 증명은 팬/삼각화를 통한 진짜 귀납법이 필요하다(정리 5).
• 소멸 다항식이 유일하다고 착각 — $f(A)=O$인 다항식은 무한히 많다($m_A$의 임의의 배수가 전부 소멸다항식). 유일한 것은 monic 최소다항식뿐.
• $f(A)g(A)=(fg)(A)$를 행렬 곱셈 비가환성과 혼동 — 같은 연산자 $A$의 다항식들끼리는 항상 교환한다($f(A)g(A)=g(A)f(A)$, $K[t]$가 가환환이므로). $A,B$가 다른 연산자일 때만 $AB\neq BA$가 일반적이다.
• 아이디얼을 부분공간과 동일시 — 아이디얼은 부분공간이기도 하지만(스칼라배에 닫힘) 추가로 임의의 다항식과의 곱에도 닫혀 있어야 한다. 모든 부분공간이 아이디얼은 아니다.

큰 그림 / 연결

여기서 발전시킨 $K[t]$-작용은 삼각화와 일차분해에서 결실을 본다 — 최소(또는 특성)다항식의 서로소 인수분해 $f=f_1f_2$가 $V=\ker f_1(A)\oplus\ker f_2(A)$라는 직합 분해를 만들어내고, 이를 반복하면 일반화된 고유공간으로의 주분해를 얻는다. 그 분해가 더 정밀해지면 조르당 표준형의 순환부분공간 구조가 나온다. 거슬러 올라가면 이 전체 이론은 고윳값과 특성다항식의 특성다항식 정의 위에 세워져 있고, 행렬식가 그 정의의 도구를 제공한다. 더 추상적으로, "환이 모듈에 작용한다"는 이 패턴($K[t]$가 $V$에 작용 — $V$를 $K[t]$-가군으로 본다)은 representation theory와 module theory로 일반화되며, 유한생성 주이데알정역 위 가군의 구조정리가 사실상 Jordan 표준형 정리를 포괄하는 더 일반적인 정리다(algebra 위키 참고).

연습문제

1. $f(t)=t^3-2t+1$, $A=\begin{pmatrix}1&1\\0&2\end{pmatrix}$일 때 $f(A)$를 계산하라.
2. $A=\begin{pmatrix}0&1\\-1&0\end{pmatrix}$의 특성다항식을 구하고 Cayley–Hamilton을 직접 검증하라($A^2$를 계산해 $P(A)=O$임을 확인).
3. $A=\begin{pmatrix}3&1\\0&3\end{pmatrix}$의 최소다항식과 특성다항식을 각각 구하고, 둘이 다름을 보여라. $A$는 대각화 가능한가?
4. $A$가 멱영(nilpotent, 어떤 $r$에 대해 $A^r=O$)이면 최소다항식이 $t^k$ ($k\le r$) 꼴임을 보여라. 이로부터 $A$의 유일한 고유값이 $0$임을 추론하라.
5. $A$가 대칭행렬이고 $f$가 실계수 다항식이면 $f(A)$도 대칭임을 보여라.
6. $B$가 가역이고 $A$가 임의의 정사각행렬일 때, 모든 양의 정수 $n$에 대해 $(B^{-1}AB)^n=B^{-1}A^nB$임을 보이고, 이로부터 $f(B^{-1}AB)=B^{-1}f(A)B$ (모든 $f\in K[t]$)를 유도하라.
7. $A=\text{diag}(2,3,5)$의 최소다항식을 구하라. 일반적으로 서로 다른 대각성분을 가진 대각행렬의 최소다항식은 무엇인가?
8. $J=\{f\in K[t]: f(A)=O\}$가 아이디얼임을 정의를 이용해 직접 증명하라.

관련 개념

• 고윳값과 특성다항식 — 특성다항식과 고유값
• 삼각화와 일차분해 — 서로소 인수가 $V$를 불변부분공간으로 쪼갬
• 조르당 표준형 — $K[t]$ 구조에서 만들어지는 가장 정밀한 정준형
• 행렬식 — Cayley–Hamilton이 소멸시키는 특성다항식을 정의