≅현대대수학
V. 군 · 12/16

잉여류와 라그랑주 정리

잉여류 분할, 위수는 나눈다

읽음 0/0 갱신 2026-06-30

개요 — 동기·문제의식

부분군 $H\le G$ 가 주어졌을 때 자연스러운 질문: $G$ 의 나머지 원소들은 $H$ 와 어떻게 관계 맺는가? $\mathbb{Z}$ 에서 $H=n\mathbb{Z}$ 로 잡으면 답은 익숙하다 — 모든 정수는 $H$ 를 법으로 한 나머지류 $0,1,\dots,n-1$ 중 하나에 속한다(합동과 모듈러 산술). 이 "나머지류"를 임의의 군 $G$ 와 부분군 $H$ 에 일반화한 것이 잉여류(coset)다. 잉여류는 항상 $G$ 를 같은 크기의 조각들로 분할하고, 이 단순한 사실 — 셀 수 있는 것을 세는 것뿐인데 — 이 군론에서 가장 강력한 정리 중 하나인 Lagrange 정리를 낳는다: 유한군에서 부분군의 위수는 반드시 전체 군의 위수를 나눈다. 이 정리는 위수 15인 군에 위수 7 부분군이 있을 수 없다는 것처럼 군의 구조에 즉각적이고 강한 제약을 건다 — 이후 Sylow 정리가 이 제약을 "어떤 부분군이 정말 존재하는가"라는 역방향 질문으로 발전시킨다.

직관

$H\le G$ 를 고정하고, $G$ 의 원소 $a$ 마다 집합 $aH=\{ah:h\in H\}$ 를 만들어 보자. 이는 "$H$ 를 $a$ 만큼 평행이동한 것"이라는 기하적 그림을 준다 — $\mathbb{R}^2$ 에서 부분공간 $H$(원점을 지나는 직선)를 벡터 $a$ 만큼 평행이동하면 $a+H$(어쩌면 원점을 지나지 않는 평행한 직선)가 되는 것과 같은 그림이다(단, 군은 비가환일 수 있어 왼쪽·오른쪽 잉여류가 다를 수 있다는 차이가 있다). 핵심 관찰은 두 가지다: (1) 사상 $h\mapsto ah$ 는 전단사이므로 모든 잉여류 $aH$ 는 $H$ 와 정확히 같은 크기를 갖는다 — "평행이동은 크기를 보존한다". (2) 서로 다른 두 잉여류는 반드시 서로소다 — 만약 $aH$ 와 $bH$ 가 한 원소라도 공유하면 사실 같은 집합이다(원소 하나를 공유하는 두 평행이동된 직선은 사실 같은 직선). 따라서 $G$ 는 크기가 모두 $|H|$ 인 잉여류들로 깔끔하게 분할되고, 그 조각 개수를 세면 바로 $|G|=|H|\times(\text{조각 수})$ 라는 나눗셈 관계가 나온다.

정의

$H\le G$, $a\in G$ 에 대해:1 - 왼쪽 잉여류(left coset) $aH=\{ah:h\in H\}$. - 오른쪽 잉여류(right coset) $Ha=\{ha:h\in H\}$. - 지수(index) $[G:H]$ = 서로 다른 왼쪽 잉여류의 개수(유한이든 무한이든).

표기 의미
$aH=bH$ $a^{-1}b\in H$ 와 동치
$aH\cap bH=\varnothing$ $aH\ne bH$ 와 동치
$a\in aH$ $e\in H$ 이므로 항상 성립(잉여류는 자기 대표원을 포함)
$eH=H$ 항등원의 잉여류는 $H$ 자신

주의: 일반적으로 $aH\ne Ha$(예제 5 참고). 왼쪽 잉여류 전체와 오른쪽 잉여류 전체는 각각 $G$ 를 분할하지만, 같은 분할일 필요는 없다. 둘이 항상 같은 경우가 바로 정규부분군이다.

주요 정리

정리 (잉여류 동치관계). $a\sim b \iff a^{-1}b\in H$ 로 정의하면 $\sim$ 은 $G$ 위의 동치관계이고, $a$ 의 동치류가 정확히 $aH$ 다.2

증명 보기

증명. 반사성: $a^{-1}a=e\in H$. 대칭성: $a^{-1}b\in H\Rightarrow(a^{-1}b)^{-1}=b^{-1}a\in H$($H$ 가 역원에 닫힘). 추이성: $a^{-1}b,b^{-1}c\in H\Rightarrow(a^{-1}b)(b^{-1}c)=a^{-1}c\in H$($H$ 가 곱에 닫힘). 동치류 확인: $b\sim a\iff a^{-1}b\in H\iff b\in aH$. ∎ 동치관계이므로 자동으로 서로 다른 동치류는 서로소이고 합집합이 $G$ 전체 — 잉여류가 분할을 이루는 진짜 이유다.

정리 (잉여류는 같은 크기). 모든 $a\in G$ 에 대해 $|aH|=|H|$(유한이든 무한 농도든).2

증명 보기

증명. $\varphi:H\to aH$, $\varphi(h)=ah$ 가 전단사임을 보이면 된다. 전사는 정의상 명백. 단사: $ah_1=ah_2\Rightarrow h_1=h_2$(왼쪽에서 $a^{-1}$ 을 곱하고 군의 소거법칙). ∎

정리 (Lagrange 정리). 유한군 $G$ 와 $H\le G$ 에 대해3 $$|G| = [G:H]\,|H|, \qquad \text{특히 } |H| \mid |G|.$$

증명 보기

증명. 잉여류 동치관계로 $G$ 는 서로소인 왼쪽 잉여류들 $a_1H,\dots,a_kH$ ($k=[G:H]$)로 분할된다. 각 잉여류의 크기가 $|H|$(앞 정리)이므로 $|G|=\sum_{i=1}^k|a_iH|=k\cdot|H|=[G:H]\,|H|$. ∎

따름정리 (원소 위수와의 관계). $a\in G$ 의 위수는 순환부분군 $\langle a\rangle$ 의 위수와 같으므로, 원소의 위수는 $|G|$ 를 나눈다. 특히 $a^{|G|}=e$.4

증명 보기

증명. $|\langle a\rangle|=|a|$(원소 $a$ 의 위수)는 cyclic groups의 정의 그대로이고, Lagrange 정리로 $|\langle a\rangle|\mid|G|$. $|G|=|a|\cdot m$ 이라 쓰면 $a^{|G|}=(a^{|a|})^m=e^m=e$. ∎

따름정리 (소수 위수 군은 순환). $|G|=p$(소수)이면 $G$ 는 순환군이고, 자명한 부분군 $\{e\}, G$ 뿐이다.4

증명 보기

증명. $a\ne e$ 를 택하면 $\langle a\rangle\le G$ 의 위수가 Lagrange 정리로 $p$ 를 나누고, $|\langle a\rangle|>1$ 이므로(원소 $a\ne e$ 포함) $|\langle a\rangle|=p$, 즉 $\langle a\rangle=G$. 같은 논증으로 $G$ 의 임의 부분군의 위수는 $1$ 또는 $p$ 뿐 → $\{e\}$ 또는 $G$. ∎

정리 (Lagrange의 역은 거짓 — 함정 주의). $|G|=12$ 인 군 $A_4$(교대군)는 위수 6인 부분군을 갖지 않는다 — $6\mid12$ 인데도! Lagrange 정리는 부분군의 위수가 군의 위수를 나눈다는 한쪽 방향만 보장하며, "약수마다 그 위수의 부분군이 존재한다"는 역은 일반적으로 거짓이다.5 (역이 부분적으로 성립하는 특수한 경우가 Sylow 정리 — 소수거듭제곱 약수에 대해서는 항상 존재.)

예제

예제 1 (기본 계산). $\mathbb{Z}_{12}$, $H=\langle4\rangle=\{0,4,8\}$. 잉여류 $0+H=\{0,4,8\}$, $1+H=\{1,5,9\}$, $2+H=\{2,6,10\}$, $3+H=\{3,7,11\}$ → 서로소인 4조각, $[G:H]=4$, $12=4\cdot3$. ✓

예제 2 (Fermat 소정리 재증명). $\mathbb{Z}_p^\times$ 는 위수 $p-1$(ℤₙ의 구조). 임의 $a\in\mathbb{Z}_p^\times$ 의 위수는 Lagrange 따름정리로 $p-1$ 을 나누므로 $a^{p-1}=1\pmod p$ — Fermat의 소정리가 군론의 한 줄 따름정리로 환원된다. Euler 정리($a^{\varphi(n)}\equiv1$)도 같은 논증을 $\mathbb{Z}_n^\times$(위수 $\varphi(n)$)에 적용하면 나온다.

예제 3 (불가능성 판정). 위수 $|G|=15$ 인 군은 위수 1,3,5,15 부분군만 가능(15의 약수). 위수 7 부분군은 $7\nmid15$ 이므로 즉시 불가능 — 존재성을 따질 필요도 없이 Lagrange 정리만으로 배제.

예제 4 ($S_4$ 에서 지수 계산). $|S_4|=24$, $A_4\le S_4$ 의 위수는 $12$($A_4$=짝순열) → $[S_4:A_4]=2$. 왼쪽 잉여류는 $A_4$(짝순열 전체)와 $(1\,2)A_4$(홀순열 전체) 단 두 개뿐.

예제 5 (왼쪽 ≠ 오른쪽 잉여류, 비정규의 예). $S_3$, $H=\{e,(1\,2)\}$. 왼쪽 잉여류: $(1\,3)H=\{(1\,3),(1\,3)(1\,2)\}=\{(1\,3),(1\,2\,3)\}$. 오른쪽 잉여류: $H(1\,3)=\{(1\,3),(1\,2)(1\,3)\}=\{(1\,3),(1\,3\,2)\}$. $(1\,2\,3)\ne(1\,3\,2)$ 이므로 $(1\,3)H\ne H(1\,3)$ — 왼쪽·오른쪽 잉여류가 다른 분할을 만드는 구체적 사례. ($H$ 가 정규가 아니라는 신호이기도 하다, 정규부분군과 몫군.)

예제 6 (무한군의 지수). $G=\mathbb{Z}$, $H=3\mathbb{Z}$. $[G:H]=3$(잉여류 $0+H,1+H,2+H$) — 무한군이라도 지수는 유한할 수 있다. 반대로 $H=\{0\}$ 이면 $[G:H]=\infty$.

예제 7 (지수의 곱셈성, 탑 공식 예고). $G=\mathbb{Z}_{24}$, $K=\langle4\rangle$(위수6), $H=\langle12\rangle$(위수2) $\le K$. $[G:H]=12$, $[G:K]=4$, $[K:H]=3$. $[G:H]=[G:K][K:H]=4\cdot3=12$ ✓ — 지수도 탑 법칙을 만족한다(이는 group isomorphism theorems의 동형정리들과 함께 군의 "크기 계산"의 기본 도구다).

흔한 오해와 함정

큰 그림 / 연결

잉여류는 부분군 이론에서 몫군 이론으로 가는 다리다 — 왼쪽=오른쪽 잉여류가 항상 일치하는 특별한 부분군(정규부분군)에서만 잉여류 집합 자체에 군의 구조를 줄 수 있다. Lagrange 정리는 군의 "크기 산술"의 토대로, Sylow 정리가 그 역방향(부분군의 존재성)을 부분적으로 보완하고, 동형정리들의 $|G/N|=[G:N]$ 같은 위수 계산도 전부 Lagrange 정리의 변형이다. 정수론 쪽에서는 $\mathbb{Z}_n^\times$ 의 Lagrange 정리가 Fermat·Euler 정리를 군론으로 통합하는 사례(예제 2)이며, 이는 ℤₙ의 구조에서 본 정수론적 사실들이 사실 군론의 일반 정리의 특수 경우였음을 보여준다 — 추상화의 위력을 보여주는 첫 사례. 더 나아가 군작용의 궤도-고정자 정리($|G\cdot x|=[G:\mathrm{Stab}(x)]$, finite abelian and sylow)는 잉여류 개념을 "원소"가 아닌 "집합 위의 작용"으로 일반화한 것이다.

연습문제

  1. $S_3$ 에서 $H=\langle(1\,2)\rangle$ 의 왼쪽 잉여류를 모두 구하라.
  2. 위수 10인 군에서 가능한 원소 위수를 모두 적어라.
  3. Lagrange 정리로 위수가 소수인 군이 순환임을 보여라.
  4. $[G:H]=2$ 이면 $H$ 가 정규부분군임을 보여라.
  5. 위수 8 군에 위수 3 원소가 없음을 보여라.
  6. $aH=bH \iff a^{-1}b\in H$ 임을 증명하라.
  7. $A_4$(위수 12)에 위수 6인 부분군이 없음을 (Lagrange 정리만으로는 증명할 수 없으니) 다른 논증으로 확인해보라 — 위수 6 부분군이 있다면 지수 2이므로 정규이고, $A_4$ 의 모든 위수 3 원소(8개의 3-순환)를 포함해야 함을 보여 모순을 이끌어라.
  8. $G=\mathbb{Z}_{30}$, $H=\langle6\rangle$ 일 때 $[G:H]$ 를 구하고 잉여류를 나열하라.
  9. $H,K\le G$ 가 둘 다 유한지수이면 $H\cap K$ 도 유한지수임을 보여라($[G:H\cap K]\le[G:H][G:K]$).
정답·힌트
  1. $H=\{e,(1\,2)\}$; 잉여류 $H$, $(1\,3)H=\{(1\,3),(1\,3\,2)\}$, $(2\,3)H=\{(2\,3),(1\,2\,3)\}$. $[S_3:H]=3$.
  2. 1,2,5,10 (10의 약수, Lagrange 따름정리).
  3. $a\ne e$ → $\langle a\rangle$ 의 위수가 $|G|=p$ 나눔, $>1$ → $=p$ → $\langle a\rangle=G$ 순환.
  4. 잉여류 2개: $H$ 와 $G\setminus H$. 왼쪽 잉여류든 오른쪽 잉여류든 항등원 안 가진 쪽은 똑같이 $G\setminus H$ → $gH=Hg$(둘 다 $H$ 이거나 둘 다 $G\setminus H$) → 정규.
  5. 위수 3 원소는 위수 3 부분군 생성, $3\nmid8$ → 불가(Lagrange).
  6. $aH=bH \Rightarrow b=be\in bH=aH \Rightarrow b=ah$ ($h\in H$) $\Rightarrow a^{-1}b=h\in H$. 역으로 $a^{-1}b=h\in H \Rightarrow b=ah \Rightarrow bH=ahH=aH$.
  7. 위수 6 정규부분군 $N$ 이 있다고 가정. $A_4$ 의 위수 3 원소(3-순환) 8개를 생각하면, $g\in N$ 이고 $|g|=3$ 일 때 $N$ 정규이므로 켤레류 전체가 $N$ 안에 있어야 하는데 3-순환의 켤레류는 8개 전부(서로 켤레) — $N$ 이 그중 일부만 포함할 수 없어 8개를 다 포함해야 하지만 $|N|=6<8+1$(항등원 포함) → 모순. 따라서 위수 6 부분군은 존재할 수 없다(Lagrange 역이 거짓인 표준 반례).
  8. $|G|=30$, $|H|=|\langle6\rangle|=30/\gcd(30,6)=5$ → $[G:H]=6$. 잉여류: $0+H,1+H,\dots,5+H$ (각각 $\{0,6,12,18,24\},\{1,7,13,19,25\},\dots$).
  9. $g(H\cap K)=g'(H\cap K) \iff g^{-1}g'\in H\cap K \iff g^{-1}g'\in H$ 이고 $g^{-1}g'\in K$. 사상 $G/(H\cap K)\to G/H\times G/K$, $g(H\cap K)\mapsto(gH,gK)$ 는 단사(잘 정의됨도 확인) → $[G:H\cap K]\le[G:H]\times[G:K]$, 둘 다 유한이면 좌변도 유한.

관련 개념

  1. 원전 소개 — Hungerford §8.1 [synthesis] — 잉여류·지수 정의. ↩

  2. 원전 소개 — Hungerford §8.1 [synthesis] — 잉여류가 동치관계를 이루고, 모두 같은 크기를 가짐(분할 증명). ↩↩

  3. 원전 소개 — Hungerford §8.1 — Lagrange's Theorem: $|H|$ divides $|G|$, $|G|=[G:H]|H|$. ↩

  4. 원전 소개 — Hungerford §8.1 [synthesis] — 원소 위수가 $|G|$ 나눔; 소수 위수 군은 순환. ↩↩

  5. 원전 소개 — Hungerford §8.1 [synthesis] — Lagrange 정리의 역이 일반적으로 거짓임($A_4$ 의 위수 6 부분군 부재가 표준 반례). ↩