함수의 극한

개요 — 동기·문제의식

수열의 극한은 "이산적인 걸음"을 다룬다 — $n=1,2,3,\dots$ 가 하나씩 지나가며 어딘가로 다가간다. 그런데 함수 $f$ 가 한 점 $p$ "근처"에서 어떻게 행동하는지를 말하려면, $p$ 로 다가가는 방법이 무한히 많다는 문제에 부딪힌다 — 왼쪽에서, 오른쪽에서, 진동하면서, 임의의 경로로. $\lim_{x\to p}f(x)=q$ 라는 말이 뜻이 있으려면 "$x$ 가 $p$ 에 충분히 가까울 때 $f(x)$ 가 $q$ 에 충분히 가깝다"는 약속이 모든 접근 방식에 대해 동시에 성립해야 한다. 함수의 극한은 수열에서 연속으로 가는 다리이며, $\varepsilon$–$\delta$ 정의와 그 수열 재서술(순차 판정)이 두 책이 함께 쓰는 두 얼굴이다. 이 개념이 없으면 도함수("차분몫의 극한")도 적분의 여러 정의도 출발점을 잃는다.

직관

가장 쓸모 있는 그림은 "구멍 뚫린 근방의 게임"이다. 목표값 $q$ 주위에 폭 $2\varepsilon$ 인 띠를 아무리 좁게 그려도, $p$ 주위에 (단, $p$ 자신은 빼고) 반지름 $\delta$ 인 작은 공을 찾을 수 있어서, 그 공 안의 모든 $x$ 에 대해 $f(x)$ 가 그 띠 안에 들어가야 한다. $p$ 자신을 빼는 것이 핵심이다 — 함수의 극한은 $f(p)$ 의 값(혹은 정의되었는지 여부)과 무관하게, "$p$ 에 다가갈수록 함숫값이 어디로 가려 하는가"만을 묻는다. 이것이 연속과의 결정적 차이: 연속은 그 극한이 실제로 $f(p)$ 와 일치할 것까지 요구한다.

정의

$f : E \to Y$ 이고 $p$ 가 $E$ 의 극한점일 때(즉 $p$ 의 모든 근방이 $E$ 의 $p$ 아닌 점을 포함할 때), $\lim_{x\to p} f(x) = q$ 라는 것은:¹

$$\forall \varepsilon > 0,\ \exists \delta > 0 \text{ s.t. } 0 < d(x,p) < \delta \Rightarrow d(f(x), q) < \varepsilon \quad (x \in E).$$

왜 $p$ 가 극한점이어야 하는가: $p$ 가 $E$ 의 고립점이면 "$x$ 가 $p$ 에 가까운데 $p$ 가 아닌" 경우가 $E$ 안에 아예 없어서, 임의의 $q$ 가 공허하게(vacuously) 극한이 되어버려 정의가 무의미해진다.

순차 판정 (Sequential Criterion)

동치 형태로, 수열을 통해 다시 쓸 수 있다:²

$$\lim_{x\to p} f(x) = q \iff \forall \{x_n\} \subset E\setminus\{p\},\ x_n \to p \Rightarrow f(x_n) \to q.$$

이 형태는 함수 극한을 수열의 수렴 으로 환원시켜, 극한 법칙들을 수열 극한 법칙의 따름정리로 만든다. 실용적 가치는 부정에 있다: 극한이 존재하지 않음을 보이려면 $\varepsilon$–$\delta$ 정의의 부정을 직접 다루는 대신, $p$ 로 가는 두 수열 $x_n, x_n'$ 을 찾아 $f(x_n), f(x_n')$ 이 다른 값으로 가는 것만 보이면 된다.

주요 정리

정리 1 (극한의 유일성). $p$ 가 극한점이고 극한이 존재하면 유일하다.

정리 2 (극한 법칙). $\lim_{x\to p} f(x) = L$, $\lim_{x\to p} g(x) = M$ 이면 $$\lim_{x\to p}(f+g)=L+M,\quad \lim_{x\to p}(fg)=LM,\quad \lim_{x\to p}\frac{f}{g}=\frac{L}{M}\ (M\ne0).$$

정리 3 (국소 유계성). $\lim_{x\to p}f(x)$ 가 존재하면 $p$ 의 어떤 근방에서 $f$ 는 유계다.

정리 4 (확장된 극한들). 한쪽 극한 $\lim_{x\to p^+}$, 무한대에서의 극한 $\lim_{x\to\infty}$, 무한대로 가는 극한 $\lim_{x\to p}f=\infty$ 이 모두 같은 $\varepsilon$–$\delta$(또는 $\varepsilon$–$M$, $M$–$\delta$) 틀의 변형으로 정의된다(Bartle §4.3). 예컨대 $\lim_{x\to p}f(x)=\infty$ 는 "$\forall M>0,\exists\delta>0: 0<|x-p|<\delta\Rightarrow f(x)>M$"으로, $\varepsilon$ 의 자리에 "임의로 큰 $M$"이 들어간 거울상이다.

예제

예제 1 (다항식의 극한). $\lim_{x\to 2}(x^2+1) = 5$ — 극한 법칙(정리 2)을 $f(x)=x^2$, $g(x)=1$ 에 반복 적용.

예제 2 (표준 극한). $\lim_{x\to 0}\dfrac{\sin x}{x} = 1$. (기하적 증명: 단위원에서 $\sin x < x < \tan x$ ($0<x<\pi/2$)로 압착정리.)

예제 3 (순차 판정으로 극한 부재 증명). $\lim_{x\to 0}\sin(1/x)$ 는 존재하지 않음: $x_n = 1/(n\pi) \to 0$ 이면 $f(x_n)=\sin(n\pi)=0$, 반면 $x_n'=1/(2n\pi+\pi/2)\to0$ 이면 $f(x_n')=\sin(2n\pi+\pi/2)=1$. 두 수열 모두 $0$ 으로 가지만 함숫값이 서로 다른 극한($0$ 과 $1$)으로 가므로, 순차 판정에 의해 극한이 존재한다면 모순.

예제 4 (한쪽 극한은 존재하지만 양쪽 극한은 부재). $f(x)=\dfrac{|x|}{x}$ ($x\ne0$)에서 $\lim_{x\to0^+}f(x)=1$, $\lim_{x\to0^-}f(x)=-1$ — 둘 다 존재하지만 다르므로 $\lim_{x\to0}f(x)$ 는 존재하지 않는다.

예제 5 (극한이 함숫값과 무관). $f(x) = x\sin(1/x)$ ($x\ne0$), $f(0)$ 은 정의 안 됨(또는 임의의 값). $\lim_{x\to0}f(x)=0$ 은 $|f(x)|\le|x|\to0$ 인 압착정리로 성립 — $p=0$ 에서 $f$ 가 정의되어 있는지조차 극한의 존재와 무관함을 보여준다.

예제 6 (몫의 극한 법칙 실패 — 분모가 0으로 가는 경우). $f(x)=x$, $g(x)=x^2$ 일 때 $\lim_{x\to0}f/g = \lim_{x\to0}1/x$ 는 존재하지 않는다(좌극한 $-\infty$, 우극한 $+\infty$) — 정리 2의 가설 "$M\ne0$"이 본질적임을 보여준다.

예제 7 (무한대에서의 극한). $\lim_{x\to\infty}\dfrac{2x+1}{x+3}=2$ — $\varepsilon$–$M$ 정의로: $\left|\frac{2x+1}{x+3}-2\right|=\frac{5}{x+3}<\varepsilon$ 이려면 $x>5/\varepsilon-3$.

흔한 오해와 함정

• "극한이 존재하려면 $f(p)$ 가 정의되어 있어야 한다" — 틀림(예제 5). 함수의 극한은 $p$ 자신을 명시적으로 제외($0<d(x,p)$)하므로 $f$ 가 $p$ 에서 정의조차 안 되어 있어도 극한은 존재할 수 있다.
• 한쪽 극한만 확인하고 양쪽 극한이 존재한다고 결론 — 예제 4처럼 좌우극한이 다르면 (양쪽) 극한은 존재하지 않는다. 반드시 둘 다 확인하고 일치를 보여야 한다.
• 순차 판정을 "수열 하나"로 확인하고 끝냄 — 순차 판정은 "모든 수열에 대해" 성립해야 한다는 전칭 명제다. 하나 또는 몇 개의 수열이 같은 극한으로 가는 것을 확인한 것은 극한의 존재 증명이 되지 못한다(존재를 증명하려면 임의의 수열에 대한 일반적 논증이 필요). 반대로 부재를 증명할 때는 서로 다른 극한으로 가는 단 두 개의 수열로 충분하다 — 이 비대칭을 혼동하지 말 것.
• $\delta$ 가 $x$ 에 의존한다고 착각 — $\delta$ 는 $\varepsilon$(과 $p$)에만 의존해야 하며 특정 $x$ 에 의존해서는 안 된다. (이는 균등연속에서 $\delta$ 가 점 자체에마저 의존하지 않아야 하는 더 강한 요구와 구별해야 한다 — 함수 극한의 $\delta$ 는 애초에 점이 아니라 $\varepsilon$ 의 함수다.)
• 극한 법칙을 분모의 극한이 $0$ 인 경우에도 기계적으로 적용(예제 6) — $0/0$ 또는 $c/0$ 꼴은 별도 분석(인수분해, 압착, L'Hospital 등)이 필요하다.

큰 그림 / 연결

함수의 극한은 수열의 수렴과 연속 사이의 다리다 — 순차 판정이 전자로 환원하고, "연속 $\iff$ $\lim_{x\to p}f(x)=f(p)$"가 후자로 이어진다. Rudin은 이를 처음부터 거리공간 사이의 사상으로 정의해 $\mathbb{R}$, $\mathbb{C}$, $\mathbb{R}^k$ 를 단번에 포괄하고, 이후 미분의 정의("차분몫의 극한")가 바로 이 함수 극한의 특수한 경우가 된다. 균등연속 는 이 정의를 "점마다"에서 "전역적으로 동시에"로 강화한 것이고, 무한대에서의 극한(정리 4)은 멱급수의 수렴반경 경계 거동이나 적분의 이상적분 논의에서 다시 등장한다. Bartle은 4장(극한)과 5장(연속)을 "긴밀히 평행한" 구조로 써서, 연속을 극한의 작은 변주로 보이게 하는 교육적 선택을 한다.

연습문제

1. $\varepsilon$–$\delta$ 정의를 직접 이용해 $\lim_{x\to3}(2x-1)=5$ 임을 증명하라.
2. $\lim_{x\to0}\dfrac{x^2-1}{x-1}$ 가 존재하는지 판단하고, 존재한다면 값을 구하라($x=1$ 에서가 아님에 주의).
3. 순차 판정을 이용해 $\lim_{x\to0}\cos(1/x)$ 가 존재하지 않음을 증명하라.
4. $f(x) = \begin{cases}x & x\in\mathbb{Q}\\ -x & x\notin\mathbb{Q}\end{cases}$ 에서 $\lim_{x\to0}f(x)$ 가 존재하는지 판단하라.
5. 정리 2(극한 법칙의 곱 부분)를 순차 판정을 이용해 직접 증명하라.
6. $\lim_{x\to p^+}f(x)$ 와 $\lim_{x\to p^-}f(x)$ 가 둘 다 존재하지만 다른 구체적 함수의 예를 들고, 양쪽 극한이 존재하지 않음을 보여라.
7. $\lim_{x\to\infty}\dfrac{1}{x}=0$ 임을 $\varepsilon$–$M$ 정의로 증명하라.
8. $p$ 가 $E$ 의 고립점일 때 극한의 정의가 왜 의미를 잃는지, "극한점" 조건이 정의에 왜 필요한지 설명하라.

관련 개념

• 수열의 수렴 — 순차 판정의 토대
• 연속 — 극한이 함숫값과 같은 경우
• 거리공간 — Rudin의 일반 무대
• 균등연속 — $\delta$ 가 점에도 무관해지는 강화
• 미분 — 차분몫의 극한으로서의 도함수