위상공간

개요 — 동기·문제의식

위상수학의 출발점이자 가장 중요한 정의. 거리를 완전히 버리고, "열린집합"이라 부를 부분집합들의 모임이 만족해야 할 단 세 가지 공리만으로 공간을 정한다. 이 추상화가 가능한 이유는, 거리공간에서 연속·수렴·콤팩트 같은 위상적 성질이 모두 열린집합이 무엇인지에만 의존하기 때문이다 — 거리값 자체는 한 번도 직접 쓰이지 않는다.²

왜 이렇게까지 일반화할 가치가 있는가? 첫째, 같은 정리(연속·콤팩트·연결 관련)를 거리공간·함수공간·이산집합 등 서로 전혀 다른 맥락에서 매번 새로 증명하지 않고 한 번에 증명할 수 있다. 둘째, 거리에서 절대 오지 않는 자연스러운 위상들(여유한위상, 자리스키 위상, 약위상)이 실제로 존재하며, 위상공간이라는 틀이 없으면 이들을 다룰 언어가 없다. 이 페이지는 그 공리를 정확히 세우고, 왜 정확히 "유한" 교집합인지, 그리고 표준적인 예시 위상들을 다룬다.

직관 (그림으로 보는 열린집합)

$\mathbb{R}$에서 직관적으로 "열린집합"은 "경계가 없는 집합" — 집합 안의 모든 점이 약간의 여유(margin)를 갖고 그 집합 안에 있는 집합이다. $(0,1)$은 열려 있다 — $0.5$ 근처의 작은 구간이 전부 $(0,1)$ 안에 있으니까. 반면 $[0,1]$은 닫혀 있다 — 점 $0$에는 아무리 작은 구간을 잡아도 $[0,1]$ 밖($0$보다 작은 수)으로 삐져나간다.

이 "여유"의 직관을 추상적인 집합 $X$로 옮기려면, 더 이상 "거리"나 "구간"을 쓸 수 없다. 그래서 발상을 뒤집는다: "여유가 있다"는 것을 따로 정의하는 대신, 어떤 집합들이 "여유가 있다"(=열려 있다)고 선언하고, 그 선언이 직관과 모순되지 않으려면 최소한 어떤 규칙을 지켜야 하는지만 공리로 못박는다. 그 규칙이 정확히 세 가지다 — 전체와 공집합은 당연히 열려야 하고, 열린 것들끼리 합쳐도 여전히 "여유"가 있어야 하고(합집합), 열린 것들끼리 유한 번 겹쳐도 여유가 남아야 한다(유한 교집합). "무한 번" 겹치면 여유가 0으로 줄어들 수 있다는 것이 곧 아래 정리의 핵심 반례다.

정의

집합 $X$에 대해, $X$의 부분집합들의 모임 $\mathcal{T}$가 위상(topology)이라는 것은 다음을 만족함이다:¹ 1. $\varnothing \in \mathcal{T}$ 이고 $X \in \mathcal{T}$. 2. $\mathcal{T}$의 임의의 부분모임의 합집합이 $\mathcal{T}$에 속한다. 3. $\mathcal{T}$의 유한 부분모임의 교집합이 $\mathcal{T}$에 속한다.

$(X,\mathcal{T})$를 위상공간, $\mathcal{T}$의 원소를 열린집합(open set)이라 한다. 점 $x\in X$의 근방(neighborhood)은 $x$를 포함하는 열린집합이다(또는, $x$를 포함하는 열린집합을 포함하는 임의의 집합 — 책마다 정의가 미묘히 갈리지만 이 위키에서는 열린집합 자체로 통일).

대소 비교: $\mathcal{T}\subseteq\mathcal{T}'$이면 $\mathcal{T}'$가 $\mathcal{T}$보다 더 섬세하다(finer), $\mathcal{T}$가 더 거칠다(coarser). (Munkres는 finer/coarser를, 다른 책은 strong/weak를 — 용어가 책마다 반대로 쓰이는 곳이니 주의.³)

표준 예: - 이산위상(discrete): $\mathcal{T} = \mathcal{P}(X)$ (모든 부분집합이 열림). 가장 섬세. 모든 한 점 집합 $\{x\}$가 열려 있다. - 비이산/자명위상(indiscrete): $\mathcal{T}=\{\varnothing, X\}$. 가장 거침. 자명위상에서는 모든 함수가 공역이 이쪽일 때 연속이다. - 여유한위상(finite complement, $\mathcal{T}_f$): $U$가 열림 $\iff$ $X\setminus U$가 유한이거나 $U=\varnothing$. - 여가산위상(countable complement): $U$가 열림 $\iff$ $X\setminus U$가 가산이거나 $U=\varnothing$. - 표준위상(standard on $\mathbb{R}$): 열린구간들의 합집합. - 하한위상(lower limit, $\mathbb{R}_\ell$): 반열린구간 $[a,b)$들이 기저. 표준위상보다 섬세 — 핵심 반례 생산 공장. - $K$-위상($\mathbb{R}_K$): 열린구간들과, $K=\{1/n:n\in\mathbb{Z}^+\}$를 뺀 구간 $(a,b)-K$들이 기저. 표준위상보다 섬세하지만 $\mathbb{R}_\ell$과는 비교 불가능(서로 어느 쪽도 더 섬세하지 않음).⁴

주요 정리

정리 (교집합은 위상). 집합 $X$ 위 위상들의 임의의 교집합 $\bigcap_\alpha \mathcal{T}_\alpha$도 위상이다. 따라서 임의의 부분모임 $\mathcal{S}\subseteq\mathcal{P}(X)$를 포함하는 가장 거친 위상(= $\mathcal{S}$가 생성하는 위상)이 유일하게 존재한다 — 모든 위상의 교집합으로 정의.

정리 (유한 교집합만 허용되는 이유, 핵심 반례). 무한 교집합을 허용하면 표준위상에서 $\bigcap_{n=1}^\infty(-\tfrac1n,\tfrac1n)=\{0\}$이 열려야 하는데, $\{0\}$은 $\mathbb{R}$에서 (직관적으로도, 정의상으로도) 열리지 않는다 — $0$ 주위 어떤 작은 구간도 $\{0\}$ 안에 들어가지 않으니까. 따라서 공리 3은 유한이어야 한다. 이 반례는 사소해 보이지만, 위상수학 전체에서 "왜 무한 교집합이 아니라 유한 교집합인가"라는 질문에 대한 유일하고 결정적인 답이다 — 거리공간에서 끌어올 수 있는 직관을 정확히 추출한 결과.

정리 (이산위상의 특징짓기). $X$ 위 위상 $\mathcal{T}$가 이산위상 $\iff$ 모든 한 점 집합 $\{x\}$가 $\mathcal{T}$에 속함. 증명. ($\Rightarrow$) 정의상 자명. ($\Leftarrow$) 모든 $\{x\}$가 열리면, 임의의 $A\subseteq X$는 $A=\bigcup_{x\in A}\{x\}$로 열린집합들의 합집합이므로 공리 2에 의해 열림 ⟹ $\mathcal{T}=\mathcal{P}(X)$. ∎

정리 (위상의 비교와 정밀도). 두 위상이 비교가능(한쪽이 다른 쪽보다 섬세)할 필요는 없다 — $\mathbb{R}_\ell$과 $\mathbb{R}_K$가 그런 예다(둘 다 표준위상보다 섬세하지만 서로는 비교 불가능⁴). "섬세함"은 부분순서이지 전순서가 아니다.

예제

예제 1 (위상 맞음을 확인). $X=\{a,b,c\}$에서 $\mathcal{T}=\{\varnothing,\{a\},\{a,b\},X\}$는 위상인가? 합집합·유한교집합 확인: $\{a\}\cup\{a,b\}=\{a,b\}\in\mathcal{T}$, $\{a\}\cap\{a,b\}=\{a\}\in\mathcal{T}$. ✓ 위상이다.

예제 2 (위상 아님). $X=\{a,b,c\}$, $\mathcal{T}=\{\varnothing,\{a\},\{b\},X\}$는 위상이 아니다 — $\{a\}\cup\{b\}=\{a,b\}\notin\mathcal{T}$, 공리 2 위배.

예제 3 (여유한위상이 정말 위상인지 검증). $\mathbb{R}$ 위 여유한위상에서 $\mathbb{R}\setminus\{0\}$은 열림(여집합 $\{0\}$ 유한). 두 열린집합 $\mathbb{R}\setminus F_1$, $\mathbb{R}\setminus F_2$($F_1,F_2$ 유한)의 교집합은 $(\mathbb{R}\setminus F_1)\cap(\mathbb{R}\setminus F_2)=\mathbb{R}\setminus(F_1\cup F_2)$, 여집합 $F_1\cup F_2$가 유한이므로 열림. ✓ 임의 합집합도 같은 논법(드모르간으로 여집합은 유한집합들의 교집합 ⊆ 유한).

예제 4 (섬세함 비교, $\mathbb{R}_\ell$). $\mathbb{R}_\ell$(하한위상)에서 $[0,1)$은 열림(기저원소 자체)이지만 표준위상에서는 아니다($0$ 왼쪽으로 여유가 없으므로). 반대로 표준위상의 모든 열린구간 $(a,b)=\bigcup_{a<c<b}[c,b)$로 $\mathbb{R}_\ell$의 열린집합들의 합집합으로 쓸 수 있으므로 표준위상의 열린집합은 $\mathbb{R}_\ell$에서도 열림 ⟹ $\mathbb{R}_\ell$이 표준위상보다 진짜로 더 섬세하다.

예제 5 (여유한위상의 병리적 성질 맛보기). 여유한위상에서는 임의의 두 비공 열린집합이 항상 만난다(둘 다 여집합이 유한이므로, 만약 서로소면 $X=(\mathbb{R}\setminus F_1)\sqcup(\mathbb{R}\setminus F_2)\sqcup(F_1\cap F_2)$ 꼴이 되어 $X$가 유한집합 둘의 합집합 — $X$가 무한이면 모순). 이는 극한점과 하우스도르프에서 다룰 "분리 불가능성"의 가장 단순한 예다.

예제 6 (이산위상과 자명위상의 극단적 대비). $X=\{1,2,3\}$에서 이산위상은 $|\mathcal{T}|=2^3=8$개의 열린집합을 가지지만, 자명위상은 $|\mathcal{T}|=2$. 같은 집합 위에 위상을 "더하거나 빼는" 자유도가 이렇게 극단적으로 크다는 것이, 위상수학이 거리공간보다 훨씬 넓은 대상을 다룬다는 증거다.

흔한 오해와 함정

• "열린집합 = 경계가 없는 집합"이라는 직관을 모든 위상에 적용 — $\mathbb{R}^n$의 표준위상에서나 통하는 직관이다. 여유한위상이나 이산위상에서 "경계"라는 거리적 개념은 애초에 정의되지 않는다. 열린집합의 진짜 정의는 오직 공리뿐이다.
• "닫혀 있지 않으면 열려 있다" — 틀림. 대부분의 집합은 열리지도 닫히지도 않는다(예: $\mathbb{R}$에서 $[0,1)$). 또 "닫힘"의 여집합이 "열림"이지, "열리지 않음"의 동의어가 아니다. 게다가 일부 집합은 둘 다일 수 있다(clopen, 예: 이산위상의 모든 부분집합, 또는 $\mathbb{R}_\ell$에서 $[0,1)$ — 자체 풀이는 닫힌집합과 폐포 참고).
• 무한 교집합도 닫혀 있다고 착각 — 공리 3은 명시적으로 유한이다. 위 정리의 $\bigcap(-1/n,1/n)=\{0\}$ 반례가 정확히 이 오해를 깨는 표준 예.
• "섬세함은 전순서다" — 아니다. $\mathbb{R}_\ell$과 $\mathbb{R}_K$처럼 둘 다 표준위상보다 섬세하지만 서로 비교할 수 없는 쌍이 존재한다. 섬세함은 부분순서일 뿐이다.
• finer/coarser 용어를 반대로 기억 — Munkres 등 다수의 위상 교과서는 "더 많은 열린집합을 가짐 = finer(섬세)"라 부르지만, 함수해석 전통(특히 일부 해석학자)에서는 같은 상황을 "strong"이라 부르기도 한다. 다른 책을 참고할 때 정의를 먼저 확인할 것.³

큰 그림 / 연결

위상공간의 정의는 이 위키 전체의 토대다. 기저와 부분기저는 모든 열린집합을 일일이 나열하지 않고 위상을 간편히 명시하는 도구를 준다. 닫힌집합과 폐포는 열림의 여집합으로 닫힘·폐포·내부를 정의해 쌍대 개념을 완성한다. 연속사상과 위상동형은 열린집합으로 연속을 정의하면서 비로소 "왜 정확히 이 세 공리인가"가 보상받는다 — 연속함수의 합성·역상 보존이 매끄럽게 작동하는 것이 정확히 이 공리들 덕분이다. 더 멀리는, 거리위상에서 모든 거리공간이 (ε-공을 기저로) 위상공간이 됨을 보고, 거꾸로 우리손 거리화 정리에서 어떤 위상공간이 거꾸로 거리에서 올 수 있는지(거리화가능성)를 다룬다. 해석학에서 $\varepsilon$–$\delta$로 정의되던 모든 것이 결국 "열린집합이 무엇인가"라는 이 한 가지 데이터로 환원된다는 것이 위상수학의 가장 중요한 통찰이다.

연습문제

1. $X=\{a,b,c,d\}$에서 위상의 예를 (이산·자명 외에) 두 개 만들어라.
2. $\mathbb{R}$ 위 여가산위상($U$ 열림 $\iff$ $X\setminus U$ 가산 또는 $U=\varnothing$)이 위상임을 보여라.
3. 두 위상 $\mathcal{T}_1, \mathcal{T}_2$의 합집합 $\mathcal{T}_1\cup\mathcal{T}_2$가 위상이 아닐 수 있음을 보여라.
4. $X$ 위 위상 중 가장 섬세한 것과 가장 거친 것은 무엇인가?
5. $X=\{1,2,3\}$ 위의 가능한 위상을 모두(동형 제외하지 말고) 나열하고 개수를 세어라.
6. 여유한위상에서 무한집합 $X$의 임의의 두 비공 열린집합이 항상 만남을 증명하라.
7. $X$ 위 두 위상 $\mathcal{T}_1\subseteq\mathcal{T}_2$이고 $X$가 무한일 때, $\mathcal{T}_1$이 이산위상이 아니면서 $\mathcal{T}_2$가 이산위상인 예를 들어라.

관련 개념

• 기저와 부분기저 — 위상을 간편히 명시
• 닫힌집합과 폐포 — 열림의 쌍대
• 연속사상과 위상동형 — 열린집합으로 정의되는 연속
• 거리위상 — 거리에서 오는 위상
• 극한점과 하우스도르프 — 분리성과 병리적 위상(여유한 등)의 만남
• set theory and foundations — 집합 연산의 토대
• 해석학: 거리공간의 열린집합 → analysis 위키 metric-spaces