분리공리

개요 — 동기·문제의식

위상수학의 정의만으로는 공간이 아무리 "이상"해도 괜찮다 — 서로 다른 두 점을 열린집합으로 분리하지 못할 수도 있고(극한점과 하우스도르프에서 본 두-원점 직선처럼), 한 점과 그 점을 포함하지 않는 닫힌집합조차 갈라놓지 못할 수도 있다. 분리공리(separation axioms)는 "점과 집합을 열린집합으로 얼마나 깨끗하게 떼어낼 수 있는가"를 사다리로 등급 매긴다: $T_1$(점이 닫힘) → $T_2$(Hausdorff, 두 점 분리) → $T_3$(정칙, 점과 닫힌집합 분리) → $T_4$(정규, 두 닫힌집합 분리). 사다리를 오를수록 공간이 유클리드 공간에 가까운 "쾌적한" 성질을 갖게 된다.

이 페이지가 향하는 정점은 정규공간($T_4$)이다 — 정규성이야말로 urysohn lemma가 실수값 연속함수를 만들어내는 유일한 발판이며, 그로부터 tietze extension theorem(함수 확장)과 우리손 거리화 정리(거리화)이 줄줄이 따라 나온다. 그런데 역설적으로 정규성은 사다리에서 가장 "약한 고리"다 — $T_1,T_2,T_3$와 달리 부분공간·곱으로 유전되지 않는다. 이 페이지는 사다리를 오르는 함의와, 각 단계에서 함의가 역방향으로는 성립하지 않음을 보이는 반례, 그리고 정규성의 이 취약함을 함께 다룬다.

직관 (그림으로 보는 분리공리)

$T_1$은 "점은 극한이 아니라 고립된 개체로 취급될 자격이 있다"는 최소한의 요구다 — 점이 닫혀 있다는 것은, 그 점이 다른 점들의 극한점이 되어 "흐릿하게 번지지" 않는다는 뜻이다. Hausdorff($T_2$)는 여기서 한 걸음 더 나아가 "두 점이 다르면 각자의 사적인 공간(열린집합)을 가질 수 있다"는 요구이며, 극한의 유일성을 보장하는 최소 조건이다(극한점과 하우스도르프).

정칙($T_3$)과 정규($T_4$)는 질적으로 다른 도약이다 — 이제 "점 대 점"이 아니라 "점(또는 집합) 대 닫힌집합"을 분리해야 한다. 정칙성의 핵심 그림은 "임의의 근방을 그보다 더 작은 근방의 폐포까지 줄여넣을 수 있다"는 것이다 — $x\in V\subseteq\overline V\subseteq U$처럼, 폐포를 취해도 여전히 원래 근방 안에 머무는 여유 공간이 있다는 뜻이다. 정규성은 이 그림을 닫힌집합 전체로 확장한 것 — 마치 두 대륙(닫힌집합) 사이에 바다(분리하는 열린집합들)를 만들 수 있다는 그림이다. Urysohn 보조정리가 이 "바다"를 실수 좌표로 눈금 매기는 작업이다.

정의

(아래는 $T_1$을 전제로 한 표준 정의 — Munkres는 $T_1$ 없이도 정칙·정규를 정의하지만, $T_1$이 있어야 사다리 $T_4\Rightarrow T_3\Rightarrow T_2\Rightarrow T_1$이 온전히 성립한다.)

• $T_1$: 모든 한 점 집합 $\{x\}$가 닫혀 있음 (동치: 임의의 두 점 $x\ne y$에 대해 $y$를 포함하지 않는 $x$의 열린근방이 존재).
• $T_2$ (Hausdorff):¹ 서로 다른 두 점 $x,y$를 서로소 열린집합 $U\ni x, V\ni y$로 분리.
• $T_3$ (정칙, regular): 점 $x$와 그를 포함하지 않는 닫힌집합 $C$를 서로소 열린집합으로 분리.
• $T_4$ (정규, normal): 서로소인 두 닫힌집합 $A,B$를 서로소 열린집합으로 분리.
• 완전정규($T_{3.5}$, completely regular / Tychonoff): 점 $x$와 닫힌집합 $C\not\ni x$를 연속함수로 분리 — $f:X\to[0,1]$, $f(x)=0$, $f(C)=1$. (urysohn lemma에서 다시 등장.)

사다리: $T_4 \Rightarrow T_{3.5} \Rightarrow T_3\Rightarrow T_2\Rightarrow T_1$ (모두 $T_1$을 전제로 했을 때; $T_1$ 없이는 $T_4$가 $T_2$조차 함의하지 않을 수 있다 — 아래 함정 참고). 위로 갈수록(숫자가 클수록) 공간이 더 "쾌적"해진다.

표기 관례. Munkres는 정칙·정규를 정의할 때 $T_1$을 명시적으로 요구하지 않고 별도의 공리로 취급한다 — "정칙공간"이라고만 하면 $T_1$을 함의하지 않을 수 있음에 유의(아래 흔한 오해 참고).

주요 정리

정리 (정칙·정규의 폐포 특징, Munkres Lemma 31.1).¹ - $X$가 정칙 $\iff$ 각 점 $x$와 $x$를 포함하는 임의의 열린 $U$에 대해, $x\in V\subseteq\overline{V}\subseteq U$인 열린 $V$가 존재. - $X$가 정규 $\iff$ 각 닫힌집합 $A$와 $A\subseteq U$인 임의의 열린 $U$에 대해, $A\subseteq V\subseteq\overline{V}\subseteq U$인 열린 $V$가 존재.

이 "근방을 폐포째 줄이기" 형태가 urysohn lemma 증명에서 유리수 사다리를 쌓는 엔진이다 — 정규성의 정의 자체보다 이 동치형이 훨씬 다루기 쉽다.

정리 (좋은 공간은 자동으로 정규, Munkres §32).² - 모든 거리공간은 정규. 증명. $A,B$ 서로소 닫힌집합. $f(x)=\dfrac{d(x,A)}{d(x,A)+d(x,B)}$ ($A,B$ 둘 다 비공인 경우; 하나가 공집합이면 자명)는 잘 정의됨(분모가 0이 될 수 없음 — $A,B$ 서로소·닫힘이므로 어떤 점도 둘과 동시에 거리 0을 가질 수 없음) 그리고 연속. $f^{-1}([0,\tfrac12))\supseteq A$, $f^{-1}((\tfrac12,1])\supseteq B$가 서로소 열린집합. - 모든 콤팩트 Hausdorff 공간은 정규. 증명 스케치. 먼저 콤팩트 Hausdorff는 정칙임을 보인다: 점 $x$, 닫힌(따라서 콤팩트) $C\not\ni x$에서 각 $y\in C$를 Hausdorff성으로 $x$와 분리하는 서로소 $U_y\ni x, V_y\ni y$를 얻고, $\{V_y\}$의 $C$ 위 유한 부분덮개 $V_{y_1},\dots,V_{y_n}$과 $\bigcap U_{y_i}$로 분리. 이제 같은 논법을 "점 하나"가 아니라 "콤팩트 집합 $A$"에 적용(각 $a\in A$를 정칙성으로 $B$와 분리한 뒤 $A$의 유한덮개로 합침)하면 정규성. - 모든 정연(well-ordered) 순서공간은 정규(Munkres §32에서 순서위상의 특수성으로 증명).

정리 (정규성은 상속되지 않는다 — 사다리의 약한 고리, Munkres §32).³ $T_1,T_2,T_3$(정칙까지)는 모두 부분공간과 임의 곱으로 유전되지만, 정규성은 부분공간·곱으로 유전되지 않는다. 반례 스케치 (곱). 각 인자가 정규인 두 공간의 곱이 비정규일 수 있다 — 아래 예제의 Sorgenfrey 평면이 정전 반례다. 반례 스케치 (부분공간). 정규공간의 부분공간이 비정규일 수 있다(예: 순서공간 $S_\Omega \times \overline{S_\Omega}$의 특정 부분공간, Munkres 연습문제 계열) — 정규성이 콤팩트성처럼 "닫힌 부분공간"으로는 유전됨(닫힌 부분공간은 정규성을 물려받는다)에 유의, 문제는 임의의 부분공간.

따름 (완전정규와 Urysohn의 다리). $T_4\Rightarrow T_{3.5}$는 urysohn lemma 자체가 증명한다 — 정규공간에서는 점과 닫힌집합을 연속함수로도 분리할 수 있음이 보조정리의 특수한 경우(점 $\{x\}$가 $T_1$에서 닫힌집합이므로).

예제

예제 1 (콤팩트 Hausdorff ⟹ 정규, 표준 사례). $[0,1]$, $S^n$, Cantor 집합, 임의의 콤팩트 다양체는 콤팩트 Hausdorff이므로 자동으로 정규 — Urysohn 보조정리와 Tietze 확장정리가 이들 위에서 항상 적용 가능하다.

예제 2 (Hausdorff이나 정칙이 아님, $K$-위상).⁴ $\mathbb{R}_K$: $\mathbb{R}$의 표준위상에 $K=\{1/n:n\in\mathbb{N}\}$을 닫힌집합으로 만드는 기저원소 $(a,b)\setminus K$를 추가한 위상. $\mathbb{R}_K$는 Hausdorff(표준위상보다 세밀하므로)이지만, 점 $0$과 (이제) 닫힌집합 $K$를 서로소 열린집합으로 분리할 수 없다 — $0$을 포함하는 임의의 열린집합은 어떤 구간 $(-\varepsilon,\varepsilon)$을 포함해야 하고, 이는 필연적으로 $K$의 원소들과 무한히 가까워져 $K$를 포함하는 임의의 열린집합과 겹치게 된다. Hausdorff가 정칙을 함의하지 않는 정전 반례.

예제 3 (정칙이나 정규가 아님, Sorgenfrey 평면).³ $\mathbb{R}_\ell^2=\mathbb{R}_\ell\times\mathbb{R}_\ell$(하한위상의 곱)은 정칙(정칙성은 곱으로 유전되므로 $\mathbb{R}_\ell$이 정칙이면 곱도 정칙)이지만 정규가 아니다. 반대각선 $L=\{(x,-x)\}$가 가산공리에서 본 것처럼 닫혀 있고 이산인 비가산 부분공간이 되며, $L$을 두 서로소 부분집합 $L\cap(\mathbb{Q}\times\mathbb{Q})^c$ 식으로(정확히는 유리수/무리수 좌표로) 쪼개면 이 두 부분집합이 $\mathbb{R}_\ell^2$ 안에서 서로소 닫힌집합이 되는데, 이산위상에서 임의의 부분집합이 닫혀 있으므로 두 조각 모두 $L$ 안에서 닫혀 있고, $L$ 자체가 $\mathbb{R}_\ell^2$에서 닫혀 있으므로 두 조각도 $\mathbb{R}_\ell^2$에서 닫힌집합이다. 이 두 조각을 서로소 열린집합으로 분리하려 하면 실패한다는 것이 (다소 기술적인) 표준 논증의 핵심 — 정칙 공간들의 곱이 비정규일 수 있다는 것을 보여주는 정전 반례(Munkres §32의 연습문제 계열).

예제 4 (거리공간, 안전지대). $\mathbb{R}^n$, 모든 Hilbert/Banach 공간, 모든 콤팩트 거리공간은 거리공간이므로 자동으로 정규(따라서 $T_1$~$T_4$ 전부, 그리고 완전정규까지). 해석학에서 분리공리를 신경 쓸 필요가 거의 없는 이유다.

예제 5 (여유한위상, $T_1$이나 Hausdorff 아님).[synthesis] 무한집합 $X$ 위의 여유한위상(cofinite topology: 열린집합 = 여집합이 유한이거나 공집합)은 $T_1$이다(각 $\{x\}$의 여집합이 무한 부분집합이 아니라 사실 $\{x\}$ 자체의 여집합은 $X\setminus\{x\}$로 여집합이 한 점뿐이라 유한 ⟹ $\{x\}$ 닫힘) 그러나 Hausdorff가 아니다 — $X$가 무한이면 임의의 두 비공 열린집합은 항상 만난다(각각의 여집합이 유한이므로 둘 다 X의 대부분을 포함, 여집합들의 합집합이 유한이라 두 열린집합의 교집합이 무한이라 비공). $T_1$이 $T_2$를 함의하지 않는 표준 반례.

예제 6 (두-원점 직선, $T_1$이나 Hausdorff 아님의 또 다른 얼굴).[synthesis] 극한점과 하우스도르프에서 다룬 두-원점 직선(실수직선을 원점 두 개로 복제한 공간)은 $T_1$(모든 점이 닫힘 — 유클리드 위상을 물려받으므로)이지만 두 원점을 서로소 열린집합으로 분리할 수 없어(임의의 두 원점 근방이 항상 겹침) Hausdorff가 아니다. 이 공간은 정규성 논의 이전 단계인 $T_2$부터 이미 깨지는 사례.

흔한 오해와 함정

• "정칙·정규는 $T_1$을 자동으로 포함한다" — Munkres의 정의 방식에서는 정칙·정규가 $T_1$과 독립적인 조건이다. $T_1$ 없이 정칙(또는 정규)만 만족하는 병리적 공간이 존재할 수 있다(예: 밀착위상은 모든 분리공리를 공허하게 만족하지만 $T_1$은 아니다 — 점이 두 개 이상이면 단일점이 닫혀 있지 않으므로). 그래서 이 페이지의 정의는 "$T_1$을 전제로" 사다리를 서술한다고 명시했다.
• "콤팩트 Hausdorff는 자동으로 정칙이니 증명할 필요 없다" — 증명이 필요하다(본문 정리 참고). 콤팩트성만으로는 정칙을 보장하지 못하며, Hausdorff와 결합해야 비로소 정칙(나아가 정규)이 나온다.
• "정규성은 유전적 성질이니 부분공간이나 곱에서도 안전하다" — 사다리의 다른 세 계단($T_1,T_2,T_3$)과 달리 정규성만은 부분공간·곱으로 유전되지 않는다(예제 3, Sorgenfrey 평면). 이 취약성 때문에 Urysohn 보조정리·거리화정리를 곱공간에 적용할 때는 항상 정규성을 별도로 재확인해야 한다.
• "Hausdorff이면 항상 정칙이다" — 거짓(예제 2, $\mathbb{R}_K$). Hausdorff는 점과 점을 분리할 뿐 점과 닫힌집합을 분리하는 것과는 다른 요구다.
• "정규성만 있으면 Urysohn 함수를 항상 명시적으로 쓸 수 있다" — 거리공간에서는 명시적 공식이 있지만(예제 4), 일반 정규공간에서는 urysohn lemma의 유리수 사다리 구성이 필요하며 존재성만 보장될 뿐 닫힌 형태의 공식은 일반적으로 없다.

큰 그림 / 연결

분리공리 사다리는 urysohn lemma가 정확히 어느 지점(정규성)에서 실수값 연속함수를 만들어낼 수 있는지 표시하는 지도다. 극한점과 하우스도르프에서 Hausdorff($T_2$)가 극한의 유일성을 위해 왜 필요했는지 보았다면, 이 페이지는 그 사다리를 두 계단 더 올려 정규성까지 도달한다. 가산공리와 결합하면 — 정규 + 제2가산 — 우리손 거리화 정리의 정확한 가설이 되어, "충분히 좋은 위상공간은 결국 거리에서 온다"는 결론에 이른다. tietze extension theorem은 Urysohn 보조정리를 "닫힌집합 위의 임의 연속함수 확장"으로 강화하는데, 이 역시 정규성과 동치다 — 세 정리(Urysohn 분리, Urysohn 보조정리, Tietze 확장)가 정규성이라는 한 성질의 서로 다른 얼굴임이 드러난다. 콤팩트성와 결합하면 콤팩트 Hausdorff가 자동으로 정규가 되어, 다양체·콤팩트 공간 이론에서 분리공리를 거의 신경 쓸 필요가 없어지는 이유를 설명한다. 몫위상에서는 몫공간이 Hausdorff성(따라서 정규성)을 쉽게 잃을 수 있다는 경고와 짝을 이룬다.

연습문제

1. Hausdorff 공간에서 한 점이 닫힘($T_1$)임을 증명하라.
2. 콤팩트 Hausdorff 공간이 정칙임을 증명하라(본문 스케치를 완성하라).
3. 콤팩트 Hausdorff 공간이 정규임을 증명하라(정칙성에서 확장하라).
4. 거리공간이 정규임을 거리함수로 직접 증명하라.
5. 정칙성의 "폐포째 줄이기" 동치형을 정규성의 정의에서 유도하는 논법을 정칙성에 대해서도 재현하라.
6. 여유한위상이 $T_1$이지만 Hausdorff가 아님을 증명하라.
7. 임의 부분공간이 $T_1,T_2,T_3$를 유전받음을 증명하되, 이 증명이 정규성에는 왜 통하지 않는지 설명하라.
8. $T_4\Rightarrow T_{3.5}$가 Urysohn 보조정리로부터 어떻게 따라 나오는지 설명하라.

관련 개념

• 극한점과 하우스도르프 — $T_2$의 출발점, 극한의 유일성
• urysohn lemma — 정규공간의 핵심 도구, $T_4\Rightarrow T_{3.5}$
• 우리손 거리화 정리 — 정규+제2가산 ⟹ 거리화
• tietze extension theorem — 정규성과 동치인 또 다른 얼굴
• 가산공리 — 거리화정리의 다른 한 축
• 콤팩트성 — 콤팩트 Hausdorff ⟹ 정규
• 거리위상 — 거리공간은 항상 정규
• 몫위상 — 몫공간에서 Hausdorff성이 쉽게 깨짐