편각 원리와 루셰 정리

개요 — 동기·문제의식

다항식의 영점 개수는 대수학의 기본정리가 즉시 답을 준다("차수만큼"). 하지만 어떤 영역 안에 영점이 몇 개 있는지, 혹은 임의의 해석함수(다항식이 아닌)의 영점 개수는 어떻게 셀까? 근을 직접 구하지 않고도 개수만 알고 싶을 때가 많다 — 예컨대 "이 5차 다항식이 단위원판 안에 근을 몇 개 갖는가"는 근의 명시적 공식 없이 답해야 하는 질문이다. 유수 정리와 실적분의 유수정리를 특별한 함수 $f'/f$에 적용하면, 놀랍게도 윤곽 적분 하나가 정확히 영점 수에서 극 수를 뺀 값을 돌려준다는 사실이 나온다 — 이것이 편각원리(Argument Principle)다. 그리고 이 원리에서 따라 나오는 Rouché 정리는 "두 함수의 크기를 경계에서 비교하는 것만으로 영점 개수가 같음을 보장"하는, 놀랄 만큼 실용적인 도구를 준다.

직관 (기하)

편각원리의 핵심 그림은 "실뭉치 감기"다. $f$가 윤곽 $C$를 따라 움직일 때, 그 상 $w=f(z)$는 $w$-평면에서 어떤 곡선을 그린다. 이 상곡선이 원점을 몇 바퀴 감는지 세는 것이 편각원리의 좌변 $\frac{1}{2\pi}\Delta_C\arg f(z)$다. 직관적으로, $f$가 $C$ 내부에 영점을 하나 가지면(단순영점) $f$의 상은 그 영점을 지날 때마다 원점 둘레를 정확히 한 바퀴 돌게 된다 — 국소적으로 $f(z)\approx c(z-z_0)$ 꼴이므로 $z$가 $z_0$ 주위를 한 바퀴 돌면 $\arg(z-z_0)$가 $2\pi$ 증가하고 그대로 $\arg f(z)$에 반영되기 때문이다. 극이 있으면 반대로 상이 원점 둘레를 반대 방향으로 감는다(위수 $k$ 극이면 $-k$바퀴). 즉 편각원리는 "$f$의 그래프가 원점을 감는 순회 횟수 = 안에 든 영점 수 $-$ 극 수"라는, 대수적 정리를 완전히 기하적인 회전수(winding number) 언어로 재서술한 것이다.

Rouché 정리의 직관은 "개 산책" 비유로 가장 잘 전달된다: 주인($f$)이 원점을 중심으로 산책하는데, 개($g$, 목줄 길이 $|g|<|f|$)가 주인보다 항상 원점에 더 가까이 붙어 있다면(즉 목줄이 주인-원점 거리보다 짧다면), 개는 절대 원점을 넘어갈 수 없다 — 따라서 "주인+개"($f+g$)가 원점을 감는 횟수는 주인 혼자($f$)가 감는 횟수와 정확히 같다. 이것이 "$|g|<|f|$이면 $f$와 $f+g$가 같은 개수의 영점을 갖는다"는 정리의 그림이다. 더 정확히는, $|g/f|<1$이므로 $1+g/f$의 상은 항상 원판 $|w-1|<1$(오른쪽 반평면 쪽 원판) 안에 머물러 원점을 결코 감지 못한다는 것이 증명의 요체다.

정의 / 진술

편각원리.¹ $f$가 단순닫힌 윤곽 $C$ 안과 위에서 유리형(meromorphic, 극만 허용)이고 $C$ 위에서 $f\ne0$이며 극도 없으면(더 일반적으로는 $C$ 위에 영점·극이 없으면) $$\frac{1}{2\pi i}\oint_C \frac{f'(z)}{f(z)}\,dz = N_f - P_f,$$ $N_f$ = $C$ 내부 영점 수(중복도/위수 포함하여 합산), $P_f$ = $C$ 내부 극 수(위수 포함 합산).

기하적 형태: 좌변 $= \dfrac{1}{2\pi}\Delta_C\arg f(z)$ — $f$가 $C$를 따라갈 때 $\arg f(z)$의 총 변화량을 $2\pi$로 나눈 값 = 상곡선 $f(C)$가 원점을 감는 회전수(winding number).

표: $f'/f$가 왜 영점·극을 세는 함수인가.

주요 정리

정리 (편각원리). 위 등식이 성립한다.

정리 (Rouché).² $f, g$가 단순닫힌 윤곽 $C$ 안과 위에서 해석적이고 $C$ 위에서 $|g(z)| < |f(z)|$이면, $f$와 $f+g$는 $C$ 내부에서 같은 개수의 영점(위수 포함)을 가진다.

정리 (FTA의 세 번째 증명). $p(z)=z^n+a_{n-1}z^{n-1}+\cdots+a_0$. 충분히 큰 $R$을 잡아 $|z|=R$에서 $f(z)=z^n$, $g(z)=a_{n-1}z^{n-1}+\cdots+a_0$로 두면, $R$이 충분히 크면 $|g(z)|\le\sum|a_j|R^j \le C R^{n-1} < R^n=|f(z)|$가 성립 ⟹ Rouché로 $p=f+g$는 $z^n$과 같은 $n$개 영점(중복도 포함)을 $|z|<R$ 안에 가진다. — 리우빌 정리와 귀결들의 Liouville 기반 증명과는 완전히 다른 경로(순수 기하적 논증)로 FTA를 얻는다.

정리 (Hurwitz).³ 영역 $D$에서 해석함수열 $f_n\to f$가 콤팩트 부분집합 위에서 일양수렴하고 각 $f_n$이 $D$에서 영점을 갖지 않으면, $f$는 $D$에서 항등적으로 $0$이거나 전혀 영점을 갖지 않는다.

예제

예제 1 (편각원리로 직접 세기). $f(z) = (z-1)^3(z+i)$의 $\dfrac{1}{2\pi i}\oint_{|z|=2}\dfrac{f'}{f}\,dz$. 내부 영점: $z=1$(위수 3), $z=-i$(위수 1); 극 없음(다항식이므로) ⟹ $N_f - P_f = 4 - 0 = 4$.

예제 2 (유리형함수, 극 포함).⁴ $f(z) = \dfrac{(z+1)(z+7)^5(z-i)^2}{(z^2-2z+2)^4(z+i)^8(z-5i)^8}$, $C=\{|z|=2\}$. 분자에서 $C$ 내부 영점: $z=-1$(단순), $z=i$(위수2) ⟹ $N_f=1+2=3$. 분모에서 $z^2-2z+2=(z-1)^2+1=0 \Rightarrow z=1\pm i$가 $C$ 내부 극(각 위수4), $z=-i$도 내부 극(위수8); $z=5i$는 $|5i|=5>2$로 밖 ⟹ $P_f = 4+4+8=16$. 따라서 $\dfrac{1}{2\pi i}\oint_{|z|=2}\dfrac{f'}{f}dz = N_f-P_f = 3-16=-13$, 즉 $\oint_{|z|=2}\dfrac{f'}{f}dz = 2\pi i(-13) = -26\pi i$.

예제 3 (Rouché 깔끔한 예). $p(z) = z^5 + 3z + 1$의 $|z|<1$ 안 영점 수. $C:|z|=1$에서 $f(z)=3z$, $g(z)=z^5+1$로 분해: $|g(z)|\le|z|^5+1=2$ (경계 위 $|z|=1$), $|f(z)|=3 > 2 = $ 상한 ⟹ $|g|<|f|$ 성립. $f=3z$는 $|z|<1$ 안에 영점 1개(원점, 단순) ⟹ Rouché로 $p=f+g$도 정확히 1개.

예제 4 (같은 다항식, 다른 환영역). $z^5 + 3z + 1$이 환영역 $1<|z|<2$에 영점 몇 개? $|z|=2$에서 $f=z^5$, $g=3z+1$: 경계 위 $|g|\le3\cdot2+1=7 < 32=|f|$ ⟹ $|z|<2$ 안에 $f=z^5$와 같은 5개 영점. 예제 3에서 $|z|<1$ 안에 1개였으므로, 환영역 $1<|z|<2$ 안의 영점 수는 (원 위에 영점이 없다고 가정하면) $5-1=4$개.

예제 5 (영점 없음을 보이는 Rouché). $p(z)=z^4+z+1$의 단위원판 $|z|<1$ 안 영점 수. $C:|z|=1$에서 $f(z)=1$(상수), $g(z)=z^4+z$로 분해: 경계 위 $|g(z)|\le|z|^4+|z|=1+1=2$인데 이는 $|f|=1$보다 커서 이 분해로는 Rouché 조건이 안 통한다. 분해를 바꿔 $f(z)=-z$(즉 $-z$ 근처), $g(z)=z^4+z+1-(-z)=z^4+2z+1$도 마찬가지로 어긋난다. 실제로 $|z|=1$ 위에서 $p(z)=z^4+z+1$은 부호가 섞여 어느 한 항이 나머지를 압도하지 못하므로, 이 예는 Rouché의 "쉬운" 분해가 항상 존재하는 것은 아님을 보여주는 반례로 남긴다 — 대신 $f(z)=z^4$, $|g|=|z+1|\le2$를 $|z|=1$에서 비교하면 $|f|=1<2$로 역시 실패, 즉 이 다항식은 단위원 경계 근처에서 항들의 크기가 팽팽하게 맞서 있어 단순 Rouché 분해로는 판정이 어려운 경우다(수치적으로는 근이 단위원 밖에 있음이 알려져 있다).

예제 6 (Hurwitz 응용). $f_n(z) = z - \tfrac1n$은 $D=\{|z|<1\}$에서 각각 영점 $z=1/n$을 갖지만(즉 $f_n$은 영점을 가짐), 극한 $f(z)=z$도 $D$에서 영점 $z=0$을 가진다 — Hurwitz 정리의 결론(영점이 없는 함수열의 극한은 영점이 없거나 항등 $0$)과 모순되지 않는다: $f_n$이 "영점 없음" 조건을 만족하지 않으므로 정리의 가정 자체가 성립하지 않는 예다. 반대로 $f_n(z)=e^z - n$처럼 큰 영역에서 영점이 없는 함수열을 만들면(고정된 콤팩트 영역에서 $n$이 크면 $e^z\ne n$), 극한이 항등 $0$이 아닌 한 그 콤팩트 영역에서 영점이 안 생긴다.

흔한 오해와 함정

• "Rouché는 $|g|\le|f|$(등호 포함)로도 성립한다" — 아니다. 등호를 허용하면 반례가 즉시 나온다: $g=-f$로 두면 $|g|=|f|$이지만 $f+g\equiv0$이 되어 "영점 개수"라는 말 자체가 무의미해진다(항등적으로 $0$). 엄격한 부등식 $|g|<|f|$가 반드시 필요하다.
• "Rouché에서 $f, g$ 분해는 유일하다/자동으로 찾아진다" — 예제 5가 정확히 보여주는 함정이다. 다항식을 $f+g$로 쪼개는 방법은 여러 가지이며, 어떤 분해는 $|g|<|f|$를 만족하지 못한다(예제 5의 두 시도 모두 실패). 성공하는 분해를 찾는 것 자체가 문제 풀이의 핵심 기술이다 — 보통 "지배적인 항"을 $f$로, 나머지를 $g$로 삼되 경계에서 실제로 부등식이 성립하는지 확인해야 한다.
• "편각원리는 항상 극을 무시해도 된다" — $f$가 다항식이면 $P_f=0$이라 $N_f-P_f=N_f$로 단순해지지만, 일반적인 유리형함수(예제 2)에서는 극이 반드시 존재하며 부호가 반대로 기여한다. 분모의 영점(원래 함수의 극)을 빠뜨리면 답이 완전히 틀어진다.
• "영점·극의 개수는 항상 위수를 무시한 서로 다른 점의 개수다" — 아니다. 편각원리와 Rouché 모두 중복도(위수)를 포함해서 센다. 예제 1의 $z=1$(위수 3)은 "영점 1개"가 아니라 "영점 3개"로 계산에 들어간다.
• "Hurwitz 정리는 각 $f_n$의 영점이 극한 $f$의 영점으로 수렴한다는 뜻이다" — 정리가 실제로 말하는 것은 더 약하다(그리고 다른 방향): $f_n$들이 전혀 영점을 갖지 않으면 $f$도 그렇다는 것이지, 개별 $f_n$의 영점 위치가 $f$의 영점으로 수렴한다는 (참이긴 하지만 다른) 명제가 아니다. Hurwitz 정리의 힘은 "영점 없음"이라는 성질의 보존에 있다.

큰 그림 / 연결

편각원리는 유수 정리와 실적분의 유수정리를 함수 $f'/f$라는 특수한 대상에 적용한 것에 불과하지만, 그 결과(영점·극의 개수 세기)는 완전히 새로운 종류의 정보다 — 적분이 값이 아니라 정수(개수)를 돌려주는 드문 예. 이 정수성이 Hurwitz 정리의 증명(연속인 정수값 함수는 상수)에서 결정적으로 쓰인다. Rouché 정리는 리우빌 정리와 귀결들의 대수학의 기본정리를 완전히 새로운 방법(크기 비교)으로 재증명하며, 최대절댓값 원리의 개사상정리(open mapping theorem, 비상수 해석함수는 열린집합을 열린집합으로 보낸다)도 본질적으로 편각원리와 같은 국소적 논증(영점 위수만큼 $n$대 1로 국소적으로 감싼다는 사실)에서 나온다. 특이점과 유수에서 정립한 극의 위수 개념이 이 페이지의 $P_f$ 계산에 직접 재사용되며, 이 페이지의 "경계에서 크기 비교"라는 전략은 수치해석에서 다항식 근의 위치를 어림잡을 때(예: 근이 어느 원판 안에 있는지) 실전적으로 널리 쓰인다.

연습문제

1. $f(z) = z^3$일 때 $\dfrac{1}{2\pi i}\oint_{|z|=1}\dfrac{f'}{f}\,dz$를 구하라.
2. Rouché로 $z^7 - 5z^3 + 12$의 $|z|<1$ 안 영점 수를 구하라.
3. $z^4 + 6z + 3$의 $1<|z|<2$ 안 영점 수를 구하라.
4. $f(z)=\dfrac{1}{z^2}$의 $\dfrac{1}{2\pi i}\oint_{|z|=1}\dfrac{f'}{f}dz$를 편각원리로 직접(극으로서) 구하라.
5. Rouché로 $p(z)=z^6-5z^4+3z^2-1$의 $|z|<1$ 안 영점 수의 상한을 구해보라(힌트: 가장 큰 계수 항을 $f$로).
6. Hurwitz 정리를 이용해, $f_n(z)=1+z+\cdots+z^n/n!$ ($e^z$의 부분합)이 큰 $n$에서 원판 $|z|<1$ 안에 영점을 가질 수 없음을 논증하라(힌트: $f_n\to e^z$, $e^z$는 영점 없음).
7. Rouché의 증명에서 $F=1+g/f$가 원점을 감지 않는다는 사실이 왜 $\Delta_C\arg F=0$을 함의하는지 설명하라.
8. $z^4+z+1$(예제 5)이 왜 "쉬운" Rouché 분해를 갖지 않는지, 계수의 크기 관점에서 설명하라.

관련 개념

• 유수 정리와 실적분 — 편각원리가 적용하는 유수정리 그 자체
• 특이점과 유수 — 영점·극의 위수(개수 세기의 단위)
• 리우빌 정리와 귀결들 — FTA의 Liouville 기반 증명(Rouché와 대비되는 경로)
• 최대절댓값 원리 — 개사상정리, 같은 국소적 논증 공유
• 코시 정리 — 다중연결 영역 논증(편각원리 증명에 깔린 배경)