닫힌집합과 폐포

개요 — 동기·문제의식

위상공간는 "열린집합"만으로 위상을 정의했다. 그렇다면 닫힌집합은 그냥 여집합으로 정의하면 그만일 것 같지만, 닫힌집합을 따로 다루는 이유는 단순한 표기 편의가 아니다 — 폐포(closure)라는, 위상수학에서 가장 자주 쓰이는 연산이 닫힌집합에서 나오기 때문이다. "집합 $A$에 그 경계의 빠진 점들을 채운 것"이라는 직관을 정확히 포착하려면, "$A$를 포함하는 가장 작은 닫힌집합"이라는 정의가 필요하다.

폐포는 "조밀(dense)"·"경계(boundary)"·"극한점"·연속함수의 동치 조건을 모두 통합하는 언어다. 예컨대 $\mathbb{Q}$가 $\mathbb{R}$에서 조밀하다는 사실, 연속함수가 폐포를 (거의) 보존한다는 사실, $A$가 닫혀 있다는 것이 "극한을 벗어나지 않는다"는 사실 — 이 모두가 폐포 연산 하나로 표현된다. 이 페이지는 닫힌집합의 공리적 쌍대성, 폐포·내부·경계의 형식 정의, 그리고 폐포가 위상에 따라 얼마나 달라지는지를 구체적 반례로 보인다.

직관 (그림으로 보는 폐포)

$\mathbb{R}^2$에서 열린 원판 $D=\{(x,y):x^2+y^2<1\}$을 생각하자. 폐포는 경계원을 포함시킨 닫힌 원판 — 원판 밖에서 아무리 가까이 다가가도 결국 원판에 닿는 점들을 모두 끌어모은 것이다. 내부는 반대로 "여유가 있는" 점들만 남긴 것 — 경계를 깎아낸다.

이 직관을 정확히 잡는 방법은 "근방마다 빠짐없이 만난다"는 조건이다: $x$가 $A$의 폐포에 있다는 것은, $x$ 주위에 아무리 작은 열린 동네를 잡아도 그 동네가 $A$를 비켜갈 수 없다는 뜻이다. 거꾸로 $x$가 폐포 밖에 있으면, $x$ 주위에 $A$를 전혀 안 만나는 "안전지대" 열린집합이 적어도 하나 존재한다. 이 비유는 거리·구간이 없는 임의의 위상공간에서도 그대로 작동한다 — 정확히 "근방"이라는 개념만으로 표현되기 때문이다.

정의

$(X,\mathcal{T})$와 $A\subseteq X$에 대해:¹ - $A$가 닫힘(closed) $\iff$ $X\setminus A$가 열림. - 내부(interior) $\operatorname{Int}A = A^\circ$ := $A$ 안의 열린집합들의 합집합 = $A$에 포함되는 가장 큰 열린집합. - 폐포(closure) $\overline{A}$ := $A$를 포함하는 닫힌집합들의 교집합 = $A$를 포함하는 가장 작은 닫힌집합. - 경계(boundary) $\partial A := \overline{A}\setminus A^\circ = \overline{A}\cap\overline{X\setminus A}$. - $A$가 $X$에서 조밀(dense) $\iff$ $\overline{A}=X$, 즉 $X$의 모든 비공 열린집합이 $A$와 만남.

상대적 폐포(부분공간에서). $Y\subseteq X$가 부분공간이고 $A\subseteq Y$일 때, $Y$에서의 폐포는 $\overline{A}^Y = \overline{A}^X \cap Y$ — 전체공간 폐포와 $Y$의 교집합. (부분공간에서의 닫힘은 항상 전체공간 폐포와의 교집합으로 계산하면 된다 — 부분·순서·유한곱 위상 참고.)

용어 주의. "닫힌집합"은 "열리지 않은 집합"의 동의어가 아니다 — 대부분의 집합은 열리지도 닫히지도 않으며(예: $\mathbb{R}$의 $[0,1)$), 일부는 둘 다일 수 있다(clopen, 예: 이산위상의 모든 부분집합).

주요 정리

정리 (닫힌집합 공리, 열림의 쌍대).¹ 위상공간 $X$의 닫힌집합 모임은 다음을 만족한다: (1) $\varnothing, X$ 닫힘; (2) 임의의 교집합이 닫힘; (3) 유한 개의 합집합이 닫힘.

정리 (폐포의 점 판정, Munkres Thm 17.5).² $x\in\overline{A}$ $\iff$ $x$를 포함하는 모든 열린집합이 $A$와 만난다. 기저원소만으로도 충분: $\mathcal{B}$가 기저면, $x\in\overline{A}\iff$ $x$를 포함하는 모든 기저원소가 $A$와 만남.

정리 (폐포의 대수적 성질). - 단조성: $A\subseteq B\Rightarrow\overline{A}\subseteq\overline{B}$. - 멱등성: $\overline{\overline{A}}=\overline{A}$ (폐포는 이미 닫혀 있으므로 자기 자신). - 유한 합집합 보존: $\overline{A\cup B}=\overline{A}\cup\overline{B}$.

정리 (왜 등호가 깨지는가 — 합집합은 유한, 교집합은 임의에서 갈림). 합집합이 유한 개일 때만 폐포와 교환되는 이유는 정확히 닫힌집합 공리 (3)이 "유한 합집합"만 보장하기 때문이다 — $\overline A\cup\overline B$가 닫힌집합임을 보장하는 것이 바로 그 공리다. 반면 교집합은 공리 (2)에서 임의 개수가 허용되므로 $\overline A\cap\overline B$ 자체는 항상 닫혀 있지만, $A\cap B$가 "더 작아서" 그 폐포가 더 작아질 여지가 늘 남는다.

예제

예제 1 (기본 계산). $\mathbb{R}$ 표준위상에서 $A=(0,1]$: $\overline{A}=[0,1]$, $A^\circ=(0,1)$, $\partial A=\{0,1\}$.

예제 2 (조밀집합). $\mathbb{Q}$는 $\mathbb{R}$에서 조밀: 모든 비공 열린구간이 유리수를 포함하므로 폐포 판정에 의해 $\overline{\mathbb{Q}}=\mathbb{R}$. 그러나 내부는 $\mathbb{Q}^\circ=\varnothing$(유리수만으로 이루어진 열린구간은 없다 — 임의의 구간에 무리수가 끼어 있으므로). 조밀하면서 내부가 텅 빈 집합이 존재한다는 것은, "조밀함"이 "거의 전부"라는 직관과 "내부가 큼"이라는 직관을 분리해야 함을 보여준다.

예제 3 (위상에 따라 폐포가 달라짐, 여유한위상). $\mathbb{R}$ 여유한위상에서 무한집합 $A$(예: $A=\mathbb{Z}$)의 폐포는 $\overline{A}=\mathbb{R}$이다 — 닫힌집합은 유한집합과 $\mathbb{R}$ 자체뿐인데, $A$를 포함하는 유한집합은 없으므로 $A$를 포함하는 최소 닫힌집합은 $\mathbb{R}$. 같은 집합도 위상이 바뀌면 폐포가 완전히 달라진다 — 폐포는 결코 "집합 자체의 성질"이 아니라 (집합, 위상) 쌍의 성질이다.

예제 4 ($\overline{A\cap B}$ 등호 실패의 구체적 반례). $A=(0,1)$, $B=(1,2)$: $A\cap B=\varnothing$이므로 $\overline{A\cap B}=\varnothing$이지만, $\overline{A}\cap\overline{B}=[0,1]\cap[1,2]=\{1\}\ne\varnothing$. 두 집합이 서로소여도 폐포끼리는 만날 수 있다 — "닿을 듯 말 듯"한 경계가 정확히 그 차이를 만든다.

예제 5 (하한위상에서 clopen 집합). $\mathbb{R}_\ell$(하한위상, 기저 $[a,b)$)에서 $[0,1)$은 기저원소 자체이므로 열려 있고, 동시에 그 여집합 $(-\infty,0)\cup[1,\infty)=\bigcup_n[-n,0)\cup\bigcup_n[1,n)$도 열려 있으므로(반열린구간들의 합집합) $[0,1)$은 닫혀 있기도 하다. 즉 $\mathbb{R}_\ell$에서 $[0,1)$은 clopen이다 — 표준위상에서는 결코 일어나지 않는 현상이며, $\mathbb{R}_\ell$이 연결이 아님(연결성)을 보여주는 직접적 증거이기도 하다.

예제 6 (이산위상의 극단). 이산위상에서는 모든 부분집합이 열려 있으므로 모든 부분집합이 (여집합도 열려 있어) 닫혀 있다 — 모든 집합이 clopen이고 $\overline{A}=A$, $A^\circ=A$, $\partial A=\varnothing$ 항상. 폐포 연산이 완전히 자명해지는 극단적 경우다.

흔한 오해와 함정

• "닫혀 있지 않으면 열려 있다" — 틀림. 대부분의 집합은 열리지도 닫히지도 않는다(예: $\mathbb{R}$의 $[0,1)$, $\mathbb{Q}$). "닫힘"의 여집합이 "열림"이지, "열리지 않음"의 동의어가 아니다.
• "$\overline{A\cap B}=\overline A\cap\overline B$"라고 무심코 가정 — 예제 4가 정확한 반례. 일반적으로 $\subseteq$ 방향만 성립한다. 합집합은 유한 개일 때 등호가 성립하지만 교집합은 (서로소인 두 집합이라도) 등호가 깨질 수 있다.
• "폐포는 위상과 무관한, 집합 자체의 본질적 성질" — 예제 3이 보여주듯 완전히 틀렸다. 같은 집합 $\mathbb{Z}\subseteq\mathbb{R}$도 표준위상에서는 그 자체로 닫혀 있지만(이산적으로 흩어진 점들), 여유한위상에서는 폐포가 전체 $\mathbb{R}$로 폭발한다.
• "내부는 항상 비공이다" — $\mathbb{Q}^\circ=\varnothing$이 보여주듯 틀림. 내부가 빈 집합인 조밀집합은 흔하다 — 이런 집합을 무처(nowhere dense)라 부른다(여기서는 명명만 하고 자세한 다룸은 더 진행된 주제).
• clopen 집합을 "위상이 이상해서 생기는 병리적 현상"으로만 여김 — 사실 clopen 집합의 존재 여부 자체가 연결성의 정의다($X$가 연결 $\iff$ $\varnothing, X$ 외에 clopen이 없음, 연결성). $\mathbb{R}_\ell$에서 $[0,1)$이 clopen이라는 사실은 $\mathbb{R}_\ell$이 연결되지 않은 공간임을 즉시 알려준다.

큰 그림 / 연결

폐포는 위상공간가 정의한 열린집합 위에 세워진 첫 번째 파생 연산이며, 이 위키 거의 모든 페이지에서 다시 등장한다. 극한점과 하우스도르프는 폐포를 점 단위로 분해해 $\overline{A}=A\cup A'$($A'$ = 극한점 집합)이라는 더 섬세한 도구를 준다. 연속사상과 위상동형에서 연속성의 동치 조건 중 하나가 정확히 "$f(\overline A)\subseteq\overline{f(A)}$"로 표현된다 — 연속함수가 폐포 연산과 (약하게) 교환됨을 뜻한다. 연결성는 clopen 집합의 부재로 정의되고, 분리공리의 사다리는 모두 "닫힌집합을 열린집합으로 얼마나 잘 떼어낼 수 있는가"를 측정한다. 해석학에서 폐구간 $[a,b]$가 "닫혀 있다"는 사실, $\mathbb{Q}$가 $\mathbb{R}$에서 조밀하다는 사실은 모두 이 위상적 폐포 개념의 특수한 경우다.

연습문제

1. $\mathbb{R}$에서 $A=\{1/n : n\in\mathbb{N}\}$의 폐포·내부·경계를 구하라.
2. $\overline{A}=A\cup A'$임을 증명하라($A'$ = 극한점 집합, 극한점과 하우스도르프 참고).
3. $\operatorname{Int}A = X\setminus\overline{X\setminus A}$를 증명하라.
4. $\mathbb{R}_\ell$(하한위상)에서 $[0,1)$의 폐포와 내부를 구하고, clopen임을 확인하라.
5. $A\subseteq X$가 닫힘 $\iff$ $A=\overline A$임을 보여라.
6. $X$ 위 두 조밀집합 $A, B$가 있을 때, $A\cap B$도 조밀할 필요는 없음을 보여라(단, $A$ 또는 $B$가 열려 있으면 어떻게 되는가?).
7. $\partial A = \varnothing$ $\iff$ $A$가 clopen임을 보여라.
8. 여가산위상($\mathbb{R}$, $U$ 열림 $\iff$ 여집합이 가산이거나 공집합)에서 무한집합의 폐포를 구하라.

관련 개념

• 위상공간 — 열림의 쌍대
• 극한점과 하우스도르프 — 폐포 = 집합 + 극한점
• 연속사상과 위상동형 — 연속의 폐포 판정($f(\overline A)\subseteq\overline{f(A)}$)
• 연결성 — clopen 집합의 부재로 정의
• 부분·순서·유한곱 위상 — 부분공간에서의 상대적 폐포
• baire category theorem — 조밀·무처조밀 집합의 위력
• 해석학: 거리공간의 폐포·조밀 → analysis 위키 metric-spaces