VII. 대수위상으로 · 16/16

호모토피와 기본군

경로의 변형, π₁, 원의 기본군

읽음 0/0 갱신 2026-06-30

수준: 핵심 개념 + 직관 중심(orientation). 완전한 증명·계산(van Kampen 정리 등 완비된 계산 기계)은 대수위상 교재의 몫이며, 여기서는 정의·핵심 결과·직관·대표 계산을 폭넓게 제시한다.

개요 — 동기·문제의식

점-집합 위상의 불변량(콤팩트성·연결성)으로는 구별 못 하는 공간 쌍이 수두룩하다 — 원판($D^2$)과 원환면(annulus)은 둘 다 연결·콤팩트·Hausdorff이지만 위상동형이 아니다. 직관적으로는 "원환면 가운데 뚫린 구멍" 때문이라는 걸 알지만, 이 "구멍"을 순수하게 위상적인 언어로 어떻게 붙잡을 것인가? 기본군 $\pi_1$이 그 답이다: 공간 안에 그린 닫힌 고리(루프)를 연속적으로 줄이거나 변형(호모토피)할 수 있는지를 관찰하고, 그 변형 가능성의 정보를 군이라는 대수적 구조로 포장한다.

이 페이지의 핵심은 "위상적 성질을 대수적 불변량으로 번역한다"는 아이디어 자체다 — 두 공간이 위상동형이면 기본군이 (군으로서) 동형이어야 하므로, 기본군이 다르면 위상동형이 아니라는 것을 즉시 알 수 있다. 이것이 위상수학과 대수학을 잇는 다리이며, 대수위상학이라는 분야 전체의 출발점이다. Munkres의 책 구성을 따라, 이 페이지는 Part II(9-14장)의 초입인 §51-53의 내용을 정의와 핵심 결과 위주로 정리한다.

직관 (그림으로 보는 기본군)

한 점 $x_0$에 고무줄의 양 끝을 묶어 공간 안에서 아무렇게나 고리를 만든다고 상상하자. 그 고무줄 고리를 공간을 벗어나지 않으면서 연속적으로 움직여 다른 모양으로 바꿀 수 있으면, 두 고리를 "같다"(호모토픽)고 부른다. 평면이나 공처럼 "구멍 없는" 공간에서는 어떤 고리든 결국 한 점으로 오그라들 수 있다 — 이런 공간을 단순연결이라 한다. 그러나 원(고리 모양 구멍)이 뚫린 평면에서는, 그 구멍을 몇 바퀴 감았느냐에 따라 고리들이 서로 다른 부류로 나뉜다 — 구멍을 통과해서 줄일 수 없기 때문이다. 이 "몇 바퀴 감았는가"라는 정수가 바로 $\pi_1(\mathbb{R}^2\setminus\{0\})\cong\mathbb{Z}$의 원소들이다.

두 고리를 이어붙이는 자연스러운 연산("먼저 이 고리를 돌고, 이어서 저 고리를 돈다")이 군의 곱셈 역할을 하고, 아무것도 돌지 않는 상수 고리가 항등원, 거꾸로 도는 고리가 역원이 된다. 이렇게 "공간의 구멍 나 있는 모양"이 순수하게 대수적인 군의 구조로 재탄생한다.

정의

경로 호모토피.¹ 두 경로 $f, g:[0,1]\to X$ (같은 끝점 $f(0)=g(0)=x_0$, $f(1)=g(1)=x_1$)가 경로 호모토픽 $f\simeq g$ $\iff$ 연속함수 $H:[0,1]\times[0,1]\to X$가 존재해 $H(s,0)=f(s)$, $H(s,1)=g(s)$이고, 모든 $t$에서 $H(0,t)=x_0$, $H(1,t)=x_1$(끝점 고정). 직관적으로 $H(\cdot,t)$가 $t$에 따라 $f$에서 $g$로 연속적으로 변해가는 "경로들의 경로".

경로의 곱(concatenation).[synthesis] $f(1)=g(0)$이면 $f*g(s)=f(2s)$ ($s\le1/2$), $g(2s-1)$ ($s\ge1/2$) — 먼저 $f$를 두 배 빠르게, 이어서 $g$를 두 배 빠르게 도는 경로.

기본군.² 기점 $x_0\in X$에서, $x_0$를 시작·끝으로 하는 루프들의 경로호모토피 동치류 집합에 이어붙이기 연산 $$[f]\cdot[g] = [f * g]$$ 을 준 것이 기본군 $\pi_1(X, x_0)$. 항등원 = 상수 루프의 동치류, $[f]$의 역원 = 거꾸로 도는 루프 $\bar f(s)=f(1-s)$의 동치류.

단순연결(simply connected):[synthesis] 경로연결이고 $\pi_1(X,x_0)$가 자명군($\{e\}$) — 모든 루프가 상수 루프에 호모토픽(한 점으로 줄어듦).

변형수축(deformation retract)과 호모토피 동치.³ $A\subseteq X$가 $X$의 변형수축 $\iff$ 연속함수 $H:X\times I\to X$로 $H(x,0)=x$, $H(x,1)\in A$ (모든 $x$), $H(a,t)=a$ (모든 $a\in A,t$)인 것이 존재 — $X$를 $A$ 위로 "구겨 넣는" 연속변형이되 $A$의 점은 그대로 고정. 더 일반적으로 $f:X\to Y$가 호모토피 동치[synthesis] $\iff$ 어떤 $g:Y\to X$가 있어 $g\circ f\simeq \mathrm{id}_X$, $f\circ g\simeq \mathrm{id}_Y$(항등사상과 호모토픽) — 이때 $X,Y$는 "같은 호모토피 타입"을 가진다고 말한다.

주요 정리

정리 (기본군은 군이다, Munkres §52). 경로호모토피 동치류들 위의 이어붙이기 연산은 결합적(재매개변수화의 호모토피로), 항등원($[e_{x_0}]$, 상수 루프)과 역원($[\bar f]$)이 존재 ⟹ $\pi_1(X,x_0)$는 군을 이룬다.

증명 보기

증명의 핵심. 결합법칙은 $f*(g*h)$와 $(f*g)*h$가 구간을 다르게 자르지만, 그 자르는 방식을 조정하는 재매개변수화 자체가 경로호모토피를 이룬다는 사실(Munkres Thm 51.3, "구간을 어떻게 쪼개든 호모토피류는 불변")에서 나온다.

정리 (기점 무관, 경로연결일 때, Munkres Thm 52.1).² $X$가 경로연결이면 $x_0,x_1\in X$에 대해 $\pi_1(X,x_0)\cong\pi_1(X,x_1)$.

증명 보기

증명 스케치. $x_0$에서 $x_1$로 가는 경로 $\alpha$를 고정하고, 사상 $\hat\alpha:\pi_1(X,x_0)\to\pi_1(X,x_1)$을 $\hat\alpha([f])=[\bar\alpha * f * \alpha]$로 정의하면 이것이 군동형(경로를 켤레로 옮기는 조작)임을 확인할 수 있다. ⟹ 경로연결 공간에서는 기점을 생략하고 $\pi_1(X)$로 표기해도 (동형 차이를 무시하면) 무방.

정리 (위상적 불변량·함자성, Munkres Thm 52.4).² 연속함수 $\phi:X\to Y$는 준동형 $\phi_*:\pi_1(X,x_0)\to\pi_1(Y,\phi(x_0))$을 유도하며($\phi_*[f]=[\phi\circ f]$), $(\psi\circ\phi)_*=\psi_*\circ\phi_*$, $(\mathrm{id}_X)_*=\mathrm{id}_{\pi_1(X)}$(합성·항등원 보존 — "함자성"). 따라서 $\phi$가 위상동형이면 $\phi_*$가 군동형 ⟹ 위상동형인 두 공간은 기본군이 (군으로서) 동형이다 — $\pi_1$이 다르면 위상동형일 수 없다는, 이 페이지 전체가 노리는 판별법.

정리 (변형수축은 기본군을 보존, Munkres Thm 58.3).³ $A$가 $X$의 변형수축, $x_0\in A$이면 포함사상 $j:A\hookrightarrow X$가 유도하는 $j_*:\pi_1(A,x_0)\to\pi_1(X,x_0)$이 동형. 더 일반적으로 호모토피 동치 $f:X\to Y$는 $f_*:\pi_1(X,x_0)\to\pi_1(Y,f(x_0))$을 동형으로 유도한다(Munkres Thm 58.7) — 위상동형이 아니어도 호모토피 동치이기만 하면 기본군이 같다는, $\pi_1$이 위상동형보다 훨씬 거친(coarser) 분류를 한다는 사실.

정리 (곱·핵심 계산 결과 모음).[synthesis] - $\pi_1(X\times Y,(x_0,y_0))\cong\pi_1(X,x_0)\times\pi_1(Y,y_0)$ — 성분별 루프의 곱군. - $\pi_1(\mathbb{R}^n)=\{e\}$: 임의의 루프 $f$가 직선호모토피 $H(s,t)=(1-t)f(s)+tx_0$로 상수 루프까지 줄어든다(볼록집합이므로 항상 성립) ⟹ 단순연결. - $\pi_1(S^n)=\{e\}$ for $n\ge2$: 구면에서 한 점을 빠뜨린 루프는 평면으로 펴져 단순연결로 환원(고차원 구면에는 "둘러쌀 구멍"이 없음). - $\pi_1(S^1)\cong\mathbb{Z}$ (감는 수, winding number) — covering spaces에서 지수사상을 이용해 엄밀히 증명. - $\pi_1(T^2)\cong\mathbb{Z}\times\mathbb{Z}$(토러스, 가환), $\pi_1(\text{figure-eight})\cong F_2$(계수 2인 자유군, 비가환) — classification of surfaces와 연결. - $\pi_1(\mathbb{R}^3\setminus\{z\text{-axis}\})\cong\mathbb{Z}$: $z$축을 뺀 $\mathbb{R}^3$이 뚫린 $xy$평면으로 변형수축되고, 그 공간이 $S^1$과 호모토피 동치이기 때문.

예제

예제 1 (볼록집합은 단순연결). $\mathbb{R}^n$, 공, 원판은 단순연결: 임의의 루프 $f$를 $H(s,t)=(1-t)f(s)+t\,x_0$로 한 점으로 직선호모토피 ⟹ $\pi_1=\{e\}$.

예제 2 (원, 감는 수). $S^1$의 루프는 "몇 바퀴 감았는가"(부호 있는 정수, winding number)로 완전히 분류된다 ⟹ $\pi_1(S^1)\cong\mathbb{Z}$. 감는 수의 덧셈이 군의 이어붙이기 연산에 대응 — 이 계산의 엄밀한 증명은 covering spaces의 지수사상 올림(lifting) 기법에 의존한다.

예제 3 (불변량 활용 — 구멍의 유무를 감지). $\mathbb{R}^2\not\cong\mathbb{R}^2\setminus\{0\}$: 전자 $\pi_1=\{e\}$, 후자 $\pi_1\cong\mathbb{Z}$(원과 호모토피 동치, 원점을 도는 감는 수) ⟹ 함자성 정리로 위상동형 불가능. 평면에서 점 하나를 빼는 것만으로도 기본군이 감지할 수 있는 "구멍"이 생긴다.

예제 4 (호모토피 동치 ≠ 위상동형 — 팔자와 세타).³ 두 번 뚫린 평면($\mathbb{R}^2\setminus\{p,q\}$)은 "팔자(figure-eight)" 모양으로도, "세타(theta, $\theta$)" 모양으로도 변형수축될 수 있다 — 둘 다 두 번 뚫린 평면과 호모토피 동치이므로 서로 기본군이 동형($F_2$)이다. 그러나 팔자와 세타는 (한쪽이 다른 쪽 안에 심지어 매장조차 될 수 없으므로) 위상동형이 아니다 — 기본군이 같다고 해서 위상동형인 것은 아니라는, 불변량의 "한 방향성"을 명확히 보여주는 사례.

예제 5 (응용 — 대수학의 기본정리).[synthesis] $\pi_1(S^1)\cong\mathbb{Z}$를 이용해 대수학의 기본정리(모든 복소계수 다항식이 근을 가짐)를 증명할 수 있다 — 만약 근이 없다면 큰 원 위에서 정의되는 다항식의 정규화된 값이 만드는 루프의 감는 수가, 원의 반지름을 $0$으로 줄이는 과정에서 연속적으로 변해야 하는데 정수인 감는 수는 이산적이라 변할 수 없다는 모순을 이용.

예제 6 (Brouwer 고정점정리의 씨앗 — 2차원 예고).[synthesis] $\pi_1(S^1)\cong\mathbb{Z}\ne\{e\}=\pi_1(\{pt\})$이면서, 만약 원판 $D^2$을 그 경계 $S^1$로 연속적으로 "퇴축(retract)"시키는 사상이 존재한다면 $\pi_1(D^2)=\{e\}$가 $\pi_1(S^1)=\mathbb{Z}$ 위로 전사인 준동형을 유도해야 하는데 이는 불가능(자명군에서 비자명군으로 가는 전사 준동형은 없음) — 이 모순이 "그런 퇴축은 존재하지 않는다"는 사실을 낳고, 이것이 Brouwer 고정점정리(2차원 버전)의 표준 증명 경로다. 완전한 논증은 covering spaces에서 이어진다.

흔한 오해와 함정

"기본군이 같으면 위상동형이다" — 거짓(예제 4). 기본군은 위상동형보다 거친 불변량인 호모토피 동치까지만 구별한다. 위상동형 ⟹ 호모토피 동치 ⟹ 기본군 동형이라는 함의의 방향만 성립하며 역은 일반적으로 거짓.
"단순연결이면 경로연결은 자동이다" — 정의에 이미 포함되어 있지만 혼동하기 쉽다. 단순연결의 정의는 "경로연결 그리고 $\pi_1$이 자명"이라는 두 조건의 결합이다 — 경로연결이 아닌 공간에서는 애초에 $\pi_1(X,x_0)$가 성분마다 다를 수 있어 "그 공간의" 기본군이라는 말 자체가 애매해진다.
"$\pi_1$은 항상 가환군이다" — 거짓. 팔자 공간의 $\pi_1\cong F_2$(자유군)는 비가환이다. $\pi_1(S^1)\cong\mathbb{Z}$처럼 가환인 경우는 오히려 예외적인 경우에 속한다(일반적으로 원 하나만 감는 것과 달리 여러 개의 독립적인 고리가 있으면 감는 "순서"가 결과에 영향을 준다).
"기점을 아무렇게나 골라도 상관없다" — 경로연결 공간에서는 (동형 차이를 무시하면) 맞지만, 경로연결이 아닌 공간에서는 기점이 속한 경로연결 성분에 따라 $\pi_1$이 전혀 다를 수 있다. 정리 52.1의 가설(경로연결)을 빠뜨리면 "기점 무관성"이 깨진다.
"고차원 구면은 모두 단순연결이다" — $n\ge2$에서만 참이다. $S^1$은 정확히 $n=1$인 예외 — $\pi_1(S^1)\cong\mathbb{Z}\ne\{e\}$. 차원이 하나 올라가면 "고리를 피해 돌아갈 여유 공간"이 생겨 모든 루프가 줄어들 수 있게 된다는 것이 직관이지만, 엄밀한 증명은 대수위상 교재의 범위.

큰 그림 / 연결

기본군은 연결성가 다루는 "한 조각인가"라는 성글은 질문을 넘어, "그 한 조각 안에 몇 가지 방식으로 구멍이 나 있는가"라는 훨씬 섬세한 질문에 답한다 — 단순연결은 연결성의 대수적으로 강화된 버전이다. covering spaces는 이 페이지에서 정의만 내린 $\pi_1(S^1)\cong\mathbb{Z}$를 실제로 계산하는 엔진이며, classification of surfaces는 서로 다른 곡면들을 정확히 기본군(과 그 아벨화인 호몰로지)으로 완전히 분류하는 이 대수적 방법론의 정점을 보여준다. 연속사상과 위상동형의 "위상적 불변량" 개념이 기본군에서 처음으로 군이라는 풍부한 대수 구조를 얻으며, 이는 대수학(군론)과 위상수학이 직접 만나는 지점이다 — 군의 표현(생성원과 관계식)으로 공간을 서술하는 방법론 전체가 여기서 출발한다.

연습문제

단순연결 공간에서 같은 끝점을 갖는 두 경로가 항상 호모토픽임을 보여라.
$\pi_1(X\times Y)\cong\pi_1(X)\times\pi_1(Y)$를 성분 경로로 설명하라.
$S^2$가 단순연결이나 $T^2$는 아님을 이용해 둘이 위상동형 아님을 보여라.
연속함수 $\phi$가 유도하는 $\phi_*$가 준동형임을 보여라.
변형수축 $A\subseteq X$에서 $\pi_1(A)\cong\pi_1(X)$가 성립하는 이유를 직관적으로 설명하라.
팔자와 세타 공간이 위상동형이 아니면서도 같은 기본군을 갖는다는 사실이 왜 모순이 아닌지 설명하라.
$\mathbb{R}^3$에서 $z$축을 제거한 공간의 기본군이 $\mathbb{Z}$임을 변형수축으로 설명하라.
$\pi_1$이 위상적 불변량이라는 사실(함자성)을 이용해 원판과 원환(annulus)이 위상동형이 아님을 논하라.

힌트 / 정답

두 경로 $f, g$(같은 끝점) ⟹ $f * \bar g$가 $x_0$ 기점 루프 ⟹ 단순연결이므로 이 루프가 상수 루프에 호모토픽 ⟹ 이로부터 $f\simeq g$를 재구성.
루프 $X\times Y$의 원소는 정확히 $(X$의 루프, $Y$의 루프$)$ 쌍과 대응; 이어붙이기 연산이 성분별로 독립적으로 작동 ⟹ 곱군과 동형.
$\pi_1(S^2)=\{e\}\ne\mathbb{Z}\times\mathbb{Z}=\pi_1(T^2)$ ⟹ 함자성 정리로 위상동형이면 기본군이 같아야 하는데 다르므로 위상동형 아님.
$\phi_*([f]\cdot[g])=[\phi\circ(f*g)]=[(\phi\circ f)*(\phi\circ g)]=\phi_*[f]\cdot\phi_*[g]$ — 이어붙이기가 합성과 교환됨을 정의로 직접 확인.
변형수축 $H:X\times I\to X$가 $X$ 전체를 $A$ 위로 연속적으로 눌러 넣으면서 $A$ 위의 점은 고정하므로, $X$의 임의의 루프가 (그 눌러 넣는 과정을 호모토피로 이용해) $A$ 안의 루프로 연속변형될 수 있고, 역으로 $A$의 루프는 포함사상으로 그대로 $X$의 루프 — 이 두 방향이 서로 역인 군동형을 이룸.
기본군은 위상동형보다 거친 "호모토피 동치"라는 불변량만 구별한다. 팔자와 세타는 위상동형은 아니지만 둘 다 두 번 뚫린 평면의 변형수축이라 호모토피 동치이고, 따라서 기본군이 같은 것은 당연하다 — 위상동형이라는 더 강한 결론이 따라 나오지 않을 뿐 모순이 아니다.
$z$축을 뺀 $\mathbb{R}^3$은 각 점을 $z$축에 수직인 평면으로 수직 투영하는 변형수축으로 뚫린 $xy$평면($\mathbb{R}^2\setminus\{0\}$)으로 줄어들고, 그 공간은 다시 $S^1$로 변형수축되므로 $\pi_1\cong\pi_1(S^1)\cong\mathbb{Z}$.
원판은 단순연결($\pi_1=\{e\}$, 볼록집합)이고 원환(annulus)은 $S^1$로 변형수축되어 $\pi_1\cong\mathbb{Z}$ — 둘이 다르므로 함자성 정리(위상동형이면 기본군 동형)의 대우로 위상동형이 아님.