연속

개요 — 동기·문제의식

연속성은 Bartle의 말처럼 "수리해석학의 중심 개념의 하나로, 이후 거의 모든 자료에 쓰인다."¹ 직관적으로 "그래프를 펜을 떼지 않고 그릴 수 있다"는 그림은 매력적이지만 정확하지 않다(예: Cantor 함수는 연속이지만 거의 모든 곳에서 미분 0; Weierstrass 함수는 연속이지만 어디서도 미분 불가능 — 그래프 그림이 직관을 배신하는 지점). 진짜 정의는 "입력의 작은 변화가 출력의 작은 변화만을 낳는다"는 국소적 통제다. 연속성이 중요한 이유는 그 자체가 아니라 무엇을 보존하는가에 있다: 콤팩트성, 연결성처럼 정의역의 전역적 위상 성질이 연속함수를 거쳐 공역으로 옮겨간다 — 이것이 최대최소 정리와 중간값 정리라는, 미적분 전체가 의지하는 두 존재 정리의 뿌리다.

직관

연속을 그리는 가장 좋은 그림은 "근방을 근방으로 보낸다"는 것이다 — $f(p)$ 주위에 아무리 좁은 표적($\varepsilon$-공)을 그려도, $p$ 주위에 그 표적 안으로 통째로 들어가는 충분히 좁은 구역($\delta$-공)을 찾을 수 있다. 함수의 극한과 다른 점은 단 하나: 그 표적의 중심이 다른 어떤 값 $q$ 가 아니라 정확히 $f(p)$ 자신이어야 한다는 것 — 즉 "$p$ 로 다가갈 때 함숫값이 어디로 가려 하는가"의 답이 "실제로 $f(p)$ 가 있는 그 자리"와 일치해야 한다. 위상적으로는 더 깔끔하다: 연속함수는 "열린 것을 열린 것의 원상으로 잡아당긴다"는 한 문장으로 요약되며, 이것이 거리·$\varepsilon$ 도 없이 일반 위상공간으로 확장되는 정의다.

정의

$f : E \to Y$ 가 점 $p$ 에서 연속(continuous)이라는 것은:²

$$\forall \varepsilon>0,\ \exists \delta>0 \text{ s.t. } d(x,p)<\delta \Rightarrow d(f(x), f(p))<\varepsilon \quad(\forall x\in E).$$

모든 점에서 연속이면 $E$ 위에서 연속이라 한다. 함수의 극한과 비교하면 $0<d(x,p)$ 의 "구멍"이 사라지고($x=p$ 도 허용 — $d(f(p),f(p))=0<\varepsilon$ 이 자동으로 성립하므로), 목표가 임의의 $q$ 가 아니라 $f(p)$ 로 고정된다. 다음 세 특성화가 동치이며 두루 쓰인다:

1. $\varepsilon$–$\delta$ (위).
2. 순차적: $x_n \to p \Rightarrow f(x_n) \to f(p)$ (Bartle 선호) — 함수의 극한의 순차 판정과 동일한 도구.
3. 위상적: $Y$ 의 모든 열린 집합 $V$ 에 대해 $f^{-1}(V)$ 가 $X$ 에서 열림 (Rudin §4.8). $\varepsilon$, $\delta$, 거리조차 없이 일반 위상공간으로 옮길 수 있는 형태.

(극한점 $p$ 에서는 "연속 $\iff$ $\lim_{x\to p} f(x) = f(p)$" → 함수의 극한. $p$ 가 고립점이면 $\delta$-조건이 공허하게 성립해 항상 연속이다.)

주요 정리 — 두 갈래 길

연속함수에 관한 대표 정리들을, 두 책이 같은 목적지·다른 경로로 증명한다:

같은 도착지, 정반대 수단 — 이 위키 대비를 한 표로 보여주는 가장 깨끗한 예. Rudin의 증명은 위상 장치가 미리 준비돼 짧고, Bartle의 증명은 $\mathbb{R}$ 의 수열로 논증해 구체적이다. → rudin vs bartle

정리 (위상적 특성화의 증명, Rudin §4.8). $f:X\to Y$ 가 연속 $\iff$ $Y$ 의 모든 열린 $V$ 에 $f^{-1}(V)$ 가 $X$ 에서 열림.

정리 (최대·최소 정리, Rudin §4.16 / Bartle §5.3.4). $K$ 가 콤팩트이고 $f:K\to\mathbb{R}$ 가 연속이면 $f$ 는 $K$ 위에서 최댓값과 최솟값을 갖는다.

불연속의 분류 (Rudin §4.26)

$f$ 가 $x$ 에서 불연속일 때, 한쪽 극한 $f(x^+), f(x^-)$ 가 둘 다 존재하면 제1종(단순) 불연속, 아니면 제2종 불연속. 단조함수는 제2종 불연속을 갖지 않으며 불연속점이 기껏해야 가산(countability) — 단조성이라는 약한 가정만으로 불연속점의 "양"을 통제할 수 있다는 놀라운 사실이다.

예제

예제 1 (다항·유리·삼각함수). 다항·유리·지수·삼각함수는 정의역에서 연속 — 합성·사칙연산의 연속 보존(위 표)을 기본 연속함수($x$, 상수, $\sin x$, $e^x$)에 반복 적용해 구성.

예제 2 (연속이나 균등연속은 아님). $f(x)=1/x$ 는 $(0,1)$ 에서 연속이나 균등연속은 아님 → 균등연속. $0$ 근처에서 함숫값이 폭발적으로 변하므로 같은 $\delta$ 가 모든 점에 통하지 않는다.

예제 3 (어디서도 불연속). Dirichlet 함수 $f(x)=1$ ($x\in\mathbb{Q}$), $f(x)=0$ ($x\notin\mathbb{Q}$)는 어디서도 불연속 — 임의의 점 근처에 유리수와 무리수가 둘 다 조밀하므로, $x_n\to p$ 인 유리수 수열과 무리수 수열이 $f(x_n)$ 을 각각 $1$, $0$ 으로 보내 순차 판정으로 불연속.

예제 4 (제거 가능한 진동). $x\sin(1/x)$ ($x\ne0$), $f(0)=0$ 은 0에서 연속(제거 가능했던 진동을 압착정리가 누른다) — 함수의 극한 예제 5와 같은 함수, 여기서는 $f(0)$ 이 정의되어 있다는 차이.

예제 5 (제1종 불연속). 부호함수 $\text{sgn}(x)$ ($x>0$ 이면 $1$, $x<0$ 이면 $-1$, $x=0$ 이면 $0$)는 $0$ 에서 불연속이지만 $f(0^+)=1$, $f(0^-)=-1$ 이 둘 다 존재 — 제1종(단순) 불연속.

예제 6 (제2종 불연속). $f(x)=\sin(1/x)$ ($x\ne0$), $f(0)=0$ 은 $0$ 에서 $f(0^+)$, $f(0^-)$ 둘 다 존재하지 않음 — 제2종 불연속(진동이 너무 격렬해 한쪽 극한조차 없음).

예제 7 (단조함수의 불연속점은 가산). $f(x)=\lfloor x\rfloor$ (바닥함수)는 단조증가이며 정수마다 점프 불연속을 갖는다 — 불연속점의 집합 $\mathbb{Z}$ 는 가산(countability), 단조함수 정리가 예측하는 그대로.

예제 8 (고정점 정리의 응용). $f:[0,1]\to[0,1]$ 연속이면 $f(c)=c$ 인 $c$ 가 존재한다(브라우어 고정점 정리의 1차원 경우) — $g(x)=f(x)-x$ 에 중간값 정리를 적용: $g(0)=f(0)\ge0$, $g(1)=f(1)-1\le0$.

흔한 오해와 함정

• "그래프가 끊김 없이 그려지면 연속" — 거짓일 수 있는 그림이다. Weierstrass 함수는 연속이지만 어디서도 미분 불가능해 "끊김 없음"의 직관이 매끄러움까지 보장하지 않는다는 것을 보여준다. 정의는 항상 $\varepsilon$–$\delta$(또는 동치 형태)로 확인해야 한다.
• 연속과 균등연속을 혼동 — 연속은 점마다 $\delta$ 가 달라도 되지만(점별), 균등연속은 모든 점에 같은 $\delta$ 를 요구한다(전역적). $1/x$ on $(0,1)$ 이 표준 반례.
• 불연속의 분류에서 "극한이 존재하지 않으면 무조건 제2종"이라고 오해 — 정확히는 한쪽 극한이 둘 다 존재하는지가 기준. 한쪽만 존재해도 둘 다는 아니므로 제2종이다(좌극한은 있는데 우극한이 없는 경우도 제2종).
• 위상적 정의를 "열린 집합이 열린 집합으로 간다"로 잘못 기억 — 정확히는 원상이다. 연속함수는 열린 집합을 열린 집합으로 보내지 않을 수 있다(예: 상수함수는 열린 구간을 한 점으로 보낸다 — 한 점은 보통 열린 집합이 아니다). 보존되는 것은 원상 방향.
• 합성의 연속을 "두 함수가 연속이면 항상 합성도 연속"으로 가설 없이 적용 — 정확히는 $f$ 가 $p$ 에서, $g$ 가 $f(p)$ 에서 연속이어야 한다. 정의역과 공역의 정합성을 빠뜨리면 오류.

큰 그림 / 연결

연속성은 함수의 극한을 "극한값이 실제 함숫값과 일치"하도록 특수화한 것이며, 콤팩트성와 connectedness라는 두 위상 불변량의 보존을 통해 미적분의 핵심 존재 정리(최대최소 정리, 중간값 정리)를 낳는다. 균등연속는 이를 전역적으로 강화한 것이고, 단조함수의 불연속점 가산성은 countability와 맞닿는다. 더 나아가 미분가능성은 연속성보다 엄격히 강한 조건이며($|x|$ 가 표준 반례), 균등수렴은 연속함수열의 극한이 다시 연속이도록 보장하는 장치다 — 이 사슬(연속 ⊂ 균등연속 ⊂ Lipschitz, 또는 연속 ⊃ 미분가능)이 해석학 전체의 함수 분류 골격을 이룬다.

연습문제

1. $\varepsilon$–$\delta$ 정의로 $f(x)=x^2$ 가 모든 $p\in\mathbb{R}$ 에서 연속임을 증명하라.
2. 위상적 특성화를 이용해 $f(x)=x^2$ 가 연속임을 다시 증명하라(임의의 열린 집합의 원상이 열림을 직접 확인).
3. 합성함수의 연속성 정리를 증명하라($f$ 가 $p$에서, $g$가 $f(p)$에서 연속이면 $g\circ f$ 는 $p$에서 연속).
4. Dirichlet 함수가 어디서도 불연속임을 순차 판정으로 증명하라.
5. $f(x)=x\cdot[\text{Dirichlet}(x)]$ (즉 유리수에서 $x$, 무리수에서 $0$)는 $x=0$ 한 점에서만 연속임을 보여라.
6. 단조증가함수의 불연속점이 가산임을 (직관적으로) 설명하라 — 각 불연속점에 유리수를 하나씩 대응시키는 방법을 생각하라.
7. $f, g$ 가 $[a,b]$ 에서 연속이고 $f(a)<g(a)$, $f(b)>g(b)$ 이면 $f(c)=g(c)$ 인 $c\in(a,b)$ 가 존재함을 중간값 정리로 증명하라.
8. 콤팩트가 아닌 집합 위에서 최대최소 정리가 실패하는 구체적 예를 들어라(정의역 또는 함숫값의 비유계·열린 정의역 두 경우).

관련 개념

• 함수의 극한 — 연속 = 극한이 함숫값
• 콤팩트성 — 유계·최대최소 정리
• connectedness — 중간값 정리
• 균등연속 — 콤팩트 위 강화된 연속
• gauges — Bartle의 대안 증명 장치
• countability — 단조함수 불연속점의 가산성
• 미분 — 연속보다 강한 조건
• rudin vs bartle — 같은 정리, 다른 경로