최대절댓값 원리

개요 — 동기·문제의식

실함수 $f(x)=-x^2$은 $x=0$이라는 내부 점에서 최댓값을 가진다. 이런 일이 복소해석함수의 모듈러스 $|f|$에서는 결코 일어나지 않는다 — $|f|$가 영역 내부에서 국소 최댓값을 가지면 $f$는 그 즉시 상수여야 한다. 이것이 최대모듈러스 원리다. 직전 페이지의 리우빌 정리와 귀결들가 "전평면에서 유계면 상수"라는 대역적 경직성을 보여줬다면, 이 정리는 "영역 내부 어디서도 국소 최댓값을 가질 수 없다"는 훨씬 더 국소적이고 날카로운 경직성을 보여준다. 짝을 이루는 Schwarz 보조정리는 여기에 원점 고정 조건을 더해, 단위원판을 자기 자신으로 보내는 해석함수의 형태를 거의 완전히 결정해버리는 대수적으로 강력한 도구다. 두 정리 모두 등각사상 이론(conformal mapping riemann)과 수치해석·편미분방정식에서 끊임없이 재등장한다.

직관 (기하)

Gauss 평균값 정리($f(z_0)$ = 원 위 평균값, 코시 적분공식)를 다시 떠올리자: 중심값은 경계 원 위 값들의 평균이다. 만약 $|f(z_0)|$가 그 원 위 어디의 $|f|$보다도 크거나 같다면(국소 최댓값이라면), "평균이 개별값들 중 최댓값과 같다"는 매우 특수한 상황이 벌어진다 — 이것은 평균에 참여하는 모든 값이 정확히 같은 크기여야만 가능하다(부등식이 등식이 되려면 등호 성립 지점밖에 남지 않으므로). 비유하자면, 여러 사람의 키 평균이 그 중 가장 큰 사람의 키와 같다면, 모두의 키가 똑같아야 하는 것과 같은 논리다. 원 위에서 $|f|$가 상수가 되는 것을 모든 반지름 $r$에 대해 반복하면 원판 전체에서 $|f|$가 상수가 되고, 모듈러스가 상수인 해석함수는 (Cauchy–Riemann 방정식으로 쉽게 보이듯) 함수 자체가 상수다.

기하적으로 최대모듈러스 원리는 "해석함수는 경계에서 정보를 얻어야만 커질 수 있다"는 그림이다 — 내부에는 함수가 스스로 "봉우리"를 만들 자유가 없다. 이는 비누막이 경계 조건에 의해서만 팽팽해지고 내부에는 자체적인 돌기를 만들 수 없는 것과 유사한 그림(harmonic functions의 최대원리와 정확히 같은 메커니즘 — 실제로 $\log|f|$는 $f\ne0$인 곳에서 조화함수다). Schwarz 보조정리는 이 그림에 원점 고정이라는 강한 제약을 추가한다: 원판을 원판 안으로 보내면서 원점을 원점에 고정하면, 사상은 원점 근방을 "압축"할 수는 있어도 "팽창"할 수는 없다 — 그래서 $|f(z)|\le|z|$라는 부등식이 나오고, 등호가 성립하는 순간 사상은 순수한 회전으로 고정되어버린다(자유도가 완전히 소진).

정의

최대모듈러스 원리 (제1형).¹ $f$가 영역 $D$에서 해석적이면 $|f|$는 $D$ 내부에서 국소 최댓값을 가질 수 없다 — $f$가 상수인 경우를 제외하고.

제2형 (경계 버전).² $f$가 유계영역 $D$에서 해석적이고 폐포 $\overline{D}$에서 연속이면, $|f|$는 (컴팩트성에 의해) $\overline{D}$ 위 어딘가에서 최댓값을 가지며, 그 최댓값은 반드시 경계 $\partial D$ 위에서 달성된다. 내부에서도 달성되면 $f$는 상수.

최소모듈러스 원리. $f$가 해석적이고 $D$에서 $f\ne0$이면, $|f|$는 내부에서 국소 최솟값을 가질 수 없다(상수 제외).

Schwarz 보조정리의 설정. $f$가 $|z|<R$에서 해석적, $f(0)=0$, $|f(z)|\le M$ on $|z|<R$.

주요 정리

정리 (최대모듈러스, 제1형).¹ 위 진술이 성립한다.

정리 (최대모듈러스, 제2형).² 위 진술이 성립한다.

정리 (최소모듈러스). $f$가 해석적이고 $D$에서 $f\ne0$이면, $|f|$는 내부에서 국소 최솟값을 가질 수 없다(상수 제외).

정리 (Schwarz 보조정리).³ $f$가 $|z|<R$에서 해석적, $f(0)=0$, $|f(z)|\le M$ on $|z|<R$이면 $$|f(z)| \le \frac{M}{R}|z|\ \ (\forall |z|<R), \qquad |f'(0)|\le \frac{M}{R}.$$ 등호가 어떤 $z_0\ne0$ 또는 $f'(0)$에서 성립하면 $f(z) = \dfrac{M}{R}e^{i\alpha}z$ (순수 회전·확대, $\alpha$는 실수).

따름정리 (표준형, $R=M=1$). $f:\mathbb{D}\to\mathbb{D}$ 해석, $f(0)=0$이면 $|f(z)|\le|z|$, $|f'(0)|\le1$이며, 등호는 오직 회전 $f(z)=e^{i\alpha}z$에서.

따름정리 (Schwarz의 변형, $f(0)\ne0$).⁴ $f$가 $|z|<R$에서 해석, $|f(z)|\le M$이면 (원점 고정 없이도) $$|f(z) - f(0)| \le \frac{2|z|}{R}M \qquad (|z|<R).$$

정리 (개사상정리, open mapping). 상수가 아닌 해석함수는 열린집합을 열린집합으로 보낸다. — 최대모듈러스 원리의 또 다른 증명 경로를 제공한다: 만약 상이 열려 있지 않으면 상의 경계 위의 점이 내부의 상값들에 의해 "둘러싸이게" 되어 국소 최대를 강제하기 때문이다.

예제

예제 1 (기본 확인). $f(z)=z^2$, 닫힌 단위원판에서 $|f|=|z|^2$의 최댓값은 경계 $|z|=1$ 위에서 $1$. 내부의 어떤 점에서도 $|f|<1$이므로 국소 최댓값 없음. ✓

예제 2 (사각형에서). $f(z)=e^z$, 사각형 $0\le x\le1,\ 0\le y\le2\pi$에서 $|f(z)|=e^x$는 $x$에만 의존하므로 최댓값은 $x=1$인 경계선 전체에서 $e$로 달성. 내부($x<1$)에서는 항상 $|f|<e$.

예제 3 (Schwarz로 불가능 판정). $f:\mathbb{D}\to\mathbb{D}$ 해석, $f(0)=0$일 때 $f(1/2)=3/4$가 가능한가? Schwarz 표준형으로 $|f(1/2)|\le1/2 < 3/4$이므로 불가능. Schwarz 보조정리가 계산 없이 즉답을 준다.

예제 4 (경계 버전의 직접 적용). $f$가 $|z|\le1$에서 해석적이고 경계 $|z|=1$에서 $|f|\le5$이면, 최대모듈러스 제2형에 의해 내부의 모든 점에서도 $|f|\le5$ — 경계값만 확인하면 내부 전체를 통제할 수 있다는 실전적 위력.

예제 5 (등호 조건의 완전한 활용). $f:\mathbb{D}\to\mathbb{D}$ 해석, $f(0)=0$, $f'(0)=1$이면 $f(z)=z$임을 보이자. $M=R=1$인 표준형 Schwarz에서 $|f'(0)|\le1$인데 등호 $|f'(0)|=1$이 성립하므로, Schwarz의 등호 조건에 의해 $f(z)=e^{i\alpha}z$; $f'(0)=e^{i\alpha}=1 \Rightarrow \alpha=0$ ⟹ $f(z)=z$. 등호 하나가 함수 전체를 완전히 결정하는 극단적 경직성의 예.

예제 6 (경계에서 모듈러스가 상수인 사상 특성화, Blaschke 인자 예고).⁵ $f$가 $|z|\le1$에서 해석적이고 경계에서 $|f(z)|=1$ (경계 전체에서 상수 모듈러스)이며 내부에 영점이 없다고 하자. 최대·최소모듈러스 원리를 동시에 적용하면 $1\le|f(z)|\le1$이 내부 전체에서 강제되므로 $|f|\equiv1$, 즉 $f$는 모듈러스가 상수인 해석함수 — 이는 $f(z)=e^{i\theta}$(상수)일 수밖에 없다. 내부에 영점 $a_1,\dots,a_n$이 있는 일반적인 경우엔 $F(z) = f(z)\Big/\prod_k \dfrac{z-a_k}{1-\overline{a_k}z}$가 영점 없이 경계 모듈러스 $1$을 유지하므로 Case (i)로 환원되고, 결국 $f(z) = e^{i\theta}\prod_k\dfrac{z-a_k}{1-\overline{a_k}z}$ (Blaschke 곱) 꼴로 완전히 분류된다. 이 사실은 뫼비우스 변환의 원판 자기사상 이론과 정확히 맞닿는다.

예제 7 (Liouville의 대안 증명). 따름정리(Schwarz 변형)를 이용해 Liouville 정리를 다시 증명해보자. $f$가 전해석이고 $|f|\le M$이면, 임의의 $z_0$과 임의의 $R$에서 $|f(z_0)-f(0)|\le \dfrac{2|z_0|}{R}M$. $f$가 전해석이므로 $R$을 얼마든지 크게 늘릴 수 있고, $R\to\infty$로 우변이 $0$ ⟹ $f(z_0)=f(0)$. $z_0$가 임의이므로 $f$는 상수. 최대모듈러스 원리 하나로 Cauchy 추정을 거치지 않고도 Liouville 정리에 도달하는 경로다.

흔한 오해와 함정

• "$|f|$는 내부에서 최솟값도 못 가진다" — 아니다. 최댓값만 금지된다. 최솟값은 $f$가 영점을 가지면 그 영점에서(즉 $|f|=0$) 얼마든지 내부 최솟값이 될 수 있다. 최소모듈러스 원리는 $f\ne0$이라는 추가 가정 하에서만 성립.
• "영역이 유계이기만 하면 경계에서 최댓값이 항상 존재한다" — 제2형은 $f$가 $\overline D$에서 연속이어야 한다는 조건이 필수다. 경계로 갈수록 $f$가 발산하거나 정의되지 않으면 최댓값 자체가 존재하지 않을 수 있다(컴팩트성이 깨지므로).
• "Schwarz 보조정리는 $f(0)=0$이 아니어도 그대로 쓸 수 있다" — $f(0)=0$은 증명의 핵심 단계($g(z)=f(z)/z$가 해석적으로 확장되는 것)에 필수적이다. $f(0)\ne0$이면 표준형이 아니라 변형 따름정리($|f(z)-f(0)|\le\cdots$)를 써야 한다.
• "등호가 한 점에서만 성립하면 그 점 근방만 특별하다" — 실제로는 정반대다. Schwarz와 최대모듈러스 모두, 단 한 점에서라도 등호가 성립하면 함수 전체가 아주 특수한 형태(회전, 또는 상수)로 완전히 고정된다 — "국소적 등호 = 대역적 경직"이라는 복소해석 특유의 논리.
• "최대모듈러스는 $|f|$가 조화함수라서 성립한다" — 정확히는 $\log|f|$가 ($f\ne0$인 곳에서) 조화함수다. $|f|$ 자체는 조화함수가 아니라 부조화(subharmonic)함수인 것이 정확한 사실이며, 증명은 조화함수 이론을 거치지 않고도(평균값 성질만으로) 직접 이뤄질 수 있다.

큰 그림 / 연결

최대모듈러스 원리는 코시 적분공식의 평균값 성질에서 직접 흘러나오며, 리우빌 정리와 귀결들와 함께 "해석함수는 국소적 자유도가 없다"는 복소해석 전체의 경직성 테마를 완성한다(예제 7이 두 정리의 상호 대체 가능성을 직접 보여준다). Schwarz 보조정리는 원판의 자기동형사상을 완전히 분류하는 도구로 뫼비우스 변환·conformal mapping riemann의 리만 사상정리 증명에 핵심적으로 쓰이며, Blaschke 곱(예제 6)은 원판 위 유계 해석함수의 영점 분포 이론(orientation 수준, Ponnusamy 후반부)으로 이어지는 입구다. $\log|f|$가 조화함수라는 사실을 통해 이 원리는 harmonic functions의 최대원리와 정확히 같은 뿌리를 공유하며, 실변수 편미분방정식(라플라스 방정식의 최대원리)의 복소해석적 원형이기도 하다. 개사상정리는 편각 원리와 루셰 정리에서 영점 개수를 세는 논증과도 맞닿아 있다.

연습문제

1. $f(z)=z^3-2z$가 닫힌 단위원판에서 $|f|$의 최댓값을 갖는 위치를 (계산이 아니라 원리로) 논하라.
2. $\mathbb{D}$에서 해석적이고 $f(0)=0$, $|f|\le1$인 $f$에 대해 $|f(0.3)|$의 상한을 구하라.
3. $f$가 $\overline{\mathbb{D}}$에서 해석적이고 경계에서 $|f|=2$(상수), 내부에 영점이 없으면 $f$가 상수임을 보여라.
4. $f:\mathbb{D}\to\mathbb{D}$ 해석, $f(0)=0$, $f'(0)=1$이면 $f(z)=z$임을 보여라.
5. 최소모듈러스 원리를 이용해, $f$가 $\overline{\mathbb{D}}$에서 해석적이고 경계에서 $|f|\ge3$, 내부에서 $f\ne0$이면 내부에서도 $|f|\ge3$임을 보여라.
6. Schwarz 보조정리의 변형 따름정리($|f(z)-f(0)|\le(2|z|/R)M$)를 이용해 Liouville 정리를 다시 증명하라.
7. $f:\mathbb{D}\to\mathbb{D}$ 해석이고 $f(1/2)=1/2$, $f(0)=0$이면 $f(z)=z$임을 보여라(힌트: 등호가 내부 점에서 성립).
8. $f$가 $|z|<2$에서 해석적이고 $f(0)=0$, $|f(z)|\le6$이면 $|f(1)|$의 상한과 $|f'(0)|$의 상한을 구하라.

관련 개념

• 코시 적분공식 — 평균값 성질의 원천
• 리우빌 정리와 귀결들 — 경직성 테마를 공유하는 자매 정리(예제 7이 상호 대체 증명)
• harmonic functions — $\log|f|$를 통한 조화함수의 최대원리
• conformal mapping riemann — Schwarz 보조정리의 등각사상 응용
• 뫼비우스 변환 — Blaschke 곱과 원판 자기사상 분류
• 편각 원리와 루셰 정리 — 개사상정리와 영점 개수 세기