III. 연속사상 · 5/16

연속사상과 위상동형

역상 정의, 붙임 보조정리, 위상적 성질

읽음 0/0 갱신 2026-06-30

개요 — 동기·문제의식

위상수학의 심장. 해석학에서 ε–δ로 정의되던 연속성을, 거리·숫자를 완전히 버리고 단 한 줄로 다시 정의한다 — "열린집합의 역상이 열림". 이 재정의가 가능한 이유는 위상공간에서 보았듯 연속성·수렴·콤팩트 같은 모든 해석학적 개념이 거리값 자체가 아니라 열린집합의 구조에만 의존하기 때문이다.

그리고 양방향으로 연속인 전단사가 위상동형(homeomorphism) — "위상적으로 같음"의 정의다. 위상수학 전체의 근본 질문은 정확히 "두 공간이 위상동형인가?"이며, 이 위키의 나머지 모든 장(콤팩트성·연결성·분리공리·기본군)은 결국 이 질문에 답하기 위한 불변량(invariant)을 만드는 작업이다 — 두 공간이 어떤 불변량에서 다르면 위상동형이 아니라고 즉시 결론지을 수 있다.

직관

"열린집합의 역상이 열림"이라는 정의가 왜 ε–δ와 같은 것을 말하는지 보자. ε–δ 연속의 의미는 "$f(x)$ 주위 어떤 작은 공을 잡아도, $x$ 주위에 그 공 안으로 전부 매핑되는 작은 공이 존재한다"는 것이다. 이것을 집합으로 다시 쓰면: $f(x)$를 포함하는 모든 열린집합 $V$에 대해, $x$를 포함하고 $f(U)\subseteq V$인 열린집합 $U$가 존재한다는 것 — 바로 $x\in U\subseteq f^{-1}(V)$, 즉 $f^{-1}(V)$가 $x$ 주위에서 "여유"를 갖는다는 뜻이다. 이것이 모든 $x$에서 성립하면 $f^{-1}(V)$ 전체가 열린집합이 된다.

위상동형의 직관은 "고무판 위의 그림을 늘이고 줄여도 같은 그림"이라는 비유로 흔히 설명된다 — 거리(길이)는 바뀌어도 되지만 찢거나 붙이면 안 된다(연속성 위배). 컵과 도넛이 위상동형이라는 유명한 농담이 정확히 이것을 말한다 — 구멍의 개수 같은 위상적 불변량만 같으면 모양은 자유롭게 변형 가능하다.

정의

위상공간 $X, Y$에 대해, $f:X\to Y$가 연속(continuous):¹ $$Y\text{의 모든 열린집합 }V\text{에 대해 } f^{-1}(V)\text{가 }X\text{에서 열림.}$$ 부분기저원소에 대해서만 확인해도 충분하다(기저와 부분기저의 연속 판정 정리).

한 점에서의 연속(국소적 정의). $f$가 $x\in X$에서 연속 $\iff$ $f(x)$의 모든 근방 $V$에 대해, $f(U)\subseteq V$인 $x$의 근방 $U$가 존재. $f$가 (전역적으로) 연속 $\iff$ 모든 점에서 연속(증명은 정리에서).

위상동형(homeomorphism). 전단사 $f:X\to Y$로 $f$와 $f^{-1}$이 둘 다 연속. 이때 $X\cong Y$ ("위상적으로 같다", "동형"). 위상동형은 열린집합을 열린집합으로 일대일 대응시킨다 — $\mathcal{T}_X$와 $\mathcal{T}_Y$ 사이의 전단사를 유도한다.

매장(embedding). $f:X\to Y$가 단사이고, $X\to f(X)$(공역을 상으로 제한한 사상)가 위상동형. "$X$가 $Y$ 안에 위상적으로 복사돼 들어간다"는 뜻 — 전단사가 아니어도 되지만 상으로 제한하면 위상동형이어야 한다는 점이 핵심.

개사상·폐사상. $f$가 개사상(open map) $\iff$ 모든 열린집합을 열린집합으로 보냄. 폐사상(closed map) $\iff$ 모든 닫힌집합을 닫힌집합으로 보냄. (연속 전단사가 개사상이면, 또는 폐사상이면 위상동형이다 — 아래 정리.)

주요 정리

정리 (연속의 동치 조건, Munkres Thm 18.1).² 다음은 동치다: 1. $f$ 연속(열린집합 역상이 열림). 2. 모든 $A\subseteq X$에 대해 $f(\overline{A})\subseteq\overline{f(A)}$ (폐포를 "거의" 보존 — 등호는 일반적으로 거짓). 3. 닫힌집합의 역상이 닫힘. 4. 각 $x\in X$와 $f(x)$의 근방 $V$에 대해, $f(U)\subseteq V$인 $x$의 근방 $U$가 존재(국소 연속, ε–δ의 직접적 일반화).

증명 보기

증명 스케치. (1⟹2) $x\in\overline A$, $V\ni f(x)$ 임의 열린집합. $f^{-1}(V)$가 열리고 $x$를 포함하므로(만약 $f(x)\in V$인데 $f^{-1}(V)\cap A=\varnothing$이면 $x$가 폐포 판정에 모순) $f^{-1}(V)\cap A\ne\varnothing$, 즉 $V\cap f(A)\ne\varnothing$ ⟹ $f(x)\in\overline{f(A)}$. (2⟹3) $B\subseteq Y$ 닫힘, $A=f^{-1}(B)$. $f(\overline A)\subseteq\overline{f(A)}\subseteq\overline B=B$ ⟹ $\overline A\subseteq f^{-1}(B)=A$ ⟹ $A=\overline A$, 닫힘. (3⟹1) 여집합으로 즉시. (1⟺4) 정의를 전개하면 직접 동치. ∎

정리 (연속함수 만들기, 구성 규칙).¹ - 상수함수·항등함수·포함사상은 연속. - 연속함수의 합성은 연속(역상의 역상이 역상). - 제한 $f|_A:A\to Y$($A$ 부분공간)는 연속; 공역의 제한·확대(상이 부분공간/포함공간에 들어갈 때)도 연속. - 붙임 보조정리(pasting lemma, Munkres Thm 18.3). $X=A\cup B$ ($A,B$ 둘 다 닫힘, 또는 둘 다 열림), $f|_A, f|_B$가 각각 연속이고 $A\cap B$에서 일치하면 $f$ 전체가 연속.

증명 보기

증명 스케치(닫힘 경우). $C\subseteq Y$ 닫힘이면 $f^{-1}(C)=(f|_A)^{-1}(C)\cup(f|_B)^{-1}(C)$, 각각 $A$와 $B$에서 닫힘이므로 ($A,B$가 $X$에서 닫혀 있어 승격, 부분·순서·유한곱 위상) $X$에서도 닫힘, 유한합집합은 닫힘. - 곱으로의 함수: $f:X\to Y\times Z$ 연속 $\iff$ 두 성분 $f_1, f_2$ 연속(부분·순서·유한곱 위상).

정리 (위상적 성질의 보존, 불변량의 원천). 연속함수(특히 위상동형)는 위상적 성질을 옮긴다: 연속상은 콤팩트성(콤팩트성)·연결성(연결성)을 보존한다. 따라서 두 공간이 이들 성질에서 다르면 위상동형이 아니다 — 위상수학에서 "두 공간이 다르다"를 증명하는 표준 전략.

정리 (위상동형 판정의 지름길). $f:X\to Y$가 연속 전단사이고, $X$가 콤팩트, $Y$가 Hausdorff이면 $f$는 자동으로 위상동형이다(역함수가 자동으로 연속) — 몫위상·콤팩트성에서 거듭 쓰이는 강력한 도구. 일반적으로 연속 전단사라고 해서 역이 연속인 것은 아니다(아래 예제 5가 반례).

예제

예제 1 (기본 연속함수). $f:\mathbb{R}\to\mathbb{R}$, $f(x)=x^2$은 연속: 임의의 열린구간 $(a,b)$의 역상이 열린집합(구간 또는 두 구간의 합집합)이고, 기저(열린구간)에 대해서만 확인하면 충분(기저와 부분기저).

예제 2 (위상동형, 유계구간과 직선). $(-1,1)\cong\mathbb{R}$: $f(x)=\dfrac{x}{1-x^2}$ 또는 $f(x)=\tan(\pi x/2)$가 위상동형(둘 다 매끄러운 전단사이고 역함수도 매끄러움). 유계 열린구간과 무한한 직선이 위상적으로는 완전히 같다 — "길이"는 거리적 개념일 뿐 위상적 불변량이 아니다.

예제 3 (위상동형 아님, 콤팩트성으로 구별). $[0,1]\not\cong(0,1)$: $[0,1]$은 콤팩트(Heine–Borel), $(0,1)$은 아님(덮개 $\{(\tfrac1n,1-\tfrac1n)\}$에 유한 부분덮개 없음). 연속상이 콤팩트성을 보존하므로 위상동형 불가능. 같은 논법으로 $[0,1)\not\cong S^1$(원은 콤팩트, 반열린구간은 아님), $\mathbb{R}\not\cong[0,1]$.

예제 4 (위상동형 아님, 연결성으로 구별). $\mathbb{R}\not\cong\mathbb{R}^2$: 점 하나를 빼면 $\mathbb{R}\setminus\{0\}$은 비연결(두 조각)이지만 $\mathbb{R}^2\setminus\{(0,0)\}$은 여전히 연결(연결성). 위상동형이면 점 제거 후의 위상적 성질도 보존돼야 하므로 불가능 — "한 점을 빼면 무슨 일이 생기는가"가 차원을 구별하는 표준 기법.

예제 5 (연속 전단사이지만 위상동형 아님). $f:[0,1)\to S^1$, $f(t)=e^{2\pi it}$는 연속 전단사이지만 위상동형이 아니다. $[0,1)$이 콤팩트가 아니므로 "콤팩트→Hausdorff면 자동 위상동형" 정리의 가정이 깨진다 — 구체적으로, $[0,\tfrac12)$는 $[0,1)$에서 열려 있지만 $f([0,\tfrac12))$는 $S^1$에서 안 열림(원점 근처를 "한 바퀴 돌아 다시 만나는" 점이 빠져 있으므로 $f^{-1}$이 그 점에서 불연속). 역함수가 불연속인 구체적 사례.

예제 6 (붙임 보조정리의 응용). $f(x)=|x|=\begin{cases}-x & x\le0\\ x & x\ge0\end{cases}$. $(-\infty,0]$과 $[0,\infty)$는 둘 다 $\mathbb{R}$에서 닫혀 있고, 각각에서 $f$는 (선형함수로) 연속이며 $x=0$에서 둘 다 값 $0$으로 일치 ⟹ 붙임 보조정리로 $|x|$ 전체가 연속.

흔한 오해와 함정

"연속 전단사는 항상 위상동형" — 예제 5가 정확한 반증. 역함수의 연속성은 별도로 증명해야 하는 독립적 조건이다. 콤팩트→Hausdorff라는 특수 상황에서만 자동으로 따라온다.
"$f(\overline A)=\overline{f(A)}$ (등호)" — 동치 조건 2는 $\subseteq$만 보장한다. 예: $f:\mathbb{R}\to\mathbb{R}$, $f(x)=\arctan(x)$는 연속이고 $\overline{f(\mathbb{R})}=[-\pi/2,\pi/2]$이지만 $f(\overline{\mathbb{R}})=f(\mathbb{R})=(-\pi/2,\pi/2)$로 등호가 깨진다.
"열린집합이 열린집합으로 간다(개사상)는 연속의 동치 조건" — 아니다. 연속은 역상이 열림을 요구하지, 상이 열림을 요구하지 않는다. 상수함수는 연속이지만 (공역이 한 점이 아닌 한) 거의 항상 개사상이 아니다.
"위상동형이면 모든 성질이 같다"는 말을 "위상적 성질만" 보존한다는 것으로 오해하지 않기 — 거리적 성질(길이·각도·곡률)은 위상동형으로 전혀 보존되지 않는다. 위상동형은 위상적 성질(열린집합 구조에서 나오는 것)만 보존한다.
붙임 보조정리에서 "닫힘" 조건을 깜빡하고 아무 분할에나 적용 — $A,B$가 둘 다 닫혀 있거나(또는 둘 다 열려 있어야) 승격이 작동한다. 예컨대 $A=(-\infty,0)$, $B=[0,\infty)$($A$는 열림, $B$는 닫힘, 혼합)처럼 한쪽만 닫혀 있으면 일반적으로 보조정리가 적용되지 않는다(다른 방법으로 따로 증명해야 할 수 있음).

큰 그림 / 연결

연속함수의 정의는 위상공간가 열린집합 공리를 세운 이유를 정확히 보상한다 — 합성·역상의 보존이 매끄럽게 작동하는 것이 정확히 그 세 공리 덕분이다. 콤팩트성·연결성는 이 페이지에서 정의한 "연속상으로 보존되는 성질"의 대표 예이며, 두 공간을 구별하는 무기고 역할을 한다. 몫위상는 몫사상이라는 특별한 종류의 연속 전사를 다루고, "콤팩트→Hausdorff 연속전단사는 위상동형"이라는 이 페이지의 정리가 거기서 핵심 도구로 재등장한다. 호모토피와 기본군은 위상동형보다 더 섬세한 "호모토피 동치"라는 동치관계를 도입해, 연속변형만으로는 구별 못하는 공간들(원과 평면 등)을 구별하는 대수적 불변량(기본군)을 만든다. 해석학의 ε–δ 연속은 정확히 거리위상에서의 이 정의의 특수한 경우다(거리위상).

연습문제

항등함수 $\operatorname{id}:(\mathbb{R},\mathcal{T}_\ell)\to(\mathbb{R},\mathcal{T}_{\text{std}})$가 연속이나 그 역은 아님을 보여라($\mathbb{R}_\ell$ 하한위상).
연속함수의 합성이 연속임을 역상으로 직접 증명하라.
$f:X\to Y$가 연속이고 $X$가 콤팩트면 $f(X)$가 콤팩트임을 증명하라.
$f(\overline A)\subseteq\overline{f(A)}$에서 등호가 일반적으로 성립하지 않음을 구체적 예로 보여라.
원 $S^1$과 정사각형의 경계가 위상동형임을 (사상 구성으로) 논하라.
매장(embedding)의 정의에서 "단사"만으로 부족하고 "상으로 제한했을 때 위상동형"이 필요한 이유를, 연속 전단사이지만 매장이 아닌 예(예제 5의 변형)로 설명하라.
붙임 보조정리를 이용해, $f(x) = \begin{cases} 0 & x \in \mathbb{Q} \cap [0,1] \\ x & x \in [0,1]\setminus\mathbb{Q}\end{cases}$ 가 일반적으로 연속이 아닐 수밖에 없는 이유를 (붙임 보조정리가 적용 안 되는 이유를 들어) 논하라.

힌트 / 정답

표준 열린구간은 $\mathbb{R}_\ell$에서도 열림(예: $(a,b)=\bigcup_{a<c<b}[c,b)$, 위상공간) ⟹ $\operatorname{id}:\ell\to$std는 역상이 항상 열려 연속. 역방향: $[0,1)$이 $\mathbb{R}_\ell$에서 열려 있지만 표준위상에서는 아니므로, $(\operatorname{id}^{-1})^{-1}([0,1))=[0,1)$이 표준위상의 역상으로 안 열림 ⟹ 역함수 불연속.
$f:X\to Y$, $g:Y\to Z$ 연속. $(g\circ f)^{-1}(W) = f^{-1}(g^{-1}(W))$. $W$가 $Z$에서 열리면 $g^{-1}(W)$가 $Y$에서 열리고(가정), 그 역상 $f^{-1}(g^{-1}(W))$가 $X$에서 열림(가정) ⟹ $g\circ f$ 연속.
$f(X)$의 임의의 열린덮개 $\{V_\alpha\}$에 대해 $\{f^{-1}(V_\alpha)\}$가 (연속이므로 열려 있고) $X$를 덮음 ⟹ $X$ 콤팩트로 유한 부분덮개 $f^{-1}(V_{\alpha_1}),\dots$ ⟹ 대응하는 $V_{\alpha_1},\dots$가 $f(X)$를 덮음(임의의 $f(x)\in f(X)$에 대해 $x\in f^{-1}(V_{\alpha_i})$인 $i$가 있으므로 $f(x)\in V_{\alpha_i}$).
$f=\arctan:\mathbb{R}\to\mathbb{R}$: $\overline{f(\mathbb{R})}=\overline{(-\pi/2,\pi/2)}=[-\pi/2,\pi/2]$이지만 $f(\overline{\mathbb{R}})=f(\mathbb{R})=(-\pi/2,\pi/2)$ — $f$가 점근값 $\pm\pi/2$에 실제로 도달하는 점이 없으므로 등호 깨짐.
둘 다 원점 중심 콤팩트·연결 곡선. 중심에서의 방사 사영 $r(x) = x/\|x\|_\infty$ (정사각형의 경계로) 또는 $x/\|x\|_2$ (원으로)의 합성으로 전단사 연속 사상 구성, 콤팩트(원)→Hausdorff(정사각형 경계도 Hausdorff, 거리공간이므로) 정리로 자동 위상동형.
$[0,1)\to\mathbb{R}^2$, $t\mapsto e^{2\pi it}$(평면에 그려진 나선이 아니라 원 자체로 가는 사상)는 단사이고 연속이지만, 상 $S^1$으로 제한했을 때(예제 5) 역함수가 불연속이므로 매장이 아니다. 단사성만으로는 "상에서 위상동형"을 보장 못 함 — 콤팩트하지 않은 정의역이 원인.
닫힌 분할 $A=\mathbb{Q}\cap[0,1]$, $B=[0,1]\setminus\mathbb{Q}$ 자체가 (각각이) $[0,1]$에서 닫혀 있지 않다(둘 다 조밀하므로 폐포가 $[0,1]$ 전체) — 붙임 보조정리의 전제(두 조각이 닫혀 있거나 둘 다 열려 있어야 함)가 애초에 성립하지 않으므로 적용 불가. (실제로 이 함수는 무리수 점에서만 연속이고 유리수 점에서는 불연속인, 해석학의 유명한 병리적 함수.)