π선형대수학
III. 스칼라곱과 쌍대성 · 7/16

스칼라곱과 직교성

그람–슈미트, 직교여공간, 계수

읽음 0/0 갱신 2026-06-30

개요 — 동기·문제의식

지금까지의 벡터공간에는 "길이"나 "각도"라는 개념이 없었다 — 덧셈과 스칼라배만 있는 순수한 대수적 구조였다. 스칼라곱(scalar product) 은 여기에 기하학을 되돌려준다: 두 벡터 사이에 수 하나(스칼라곱)를 대응시켜, 그로부터 길이(노름)·거리·수직(직교)·각도를 정의할 수 있게 한다. Lang의 접근이 보통의 "내적 공간" 교재와 다른 점은, 처음부터 양의 정부호성을 요구하지 않고 임의의 체 $K$ 위에서 대칭쌍선형형식으로 출발한다는 것이다 — 양의 정부호인 실수 경우는 그 특수한, 그러나 가장 유용한 사례로 다뤄진다.

이 장의 클라이맥스는 두 가지다. 첫째, Gram–Schmidt 과정으로 임의의 (양의 정부호) 공간이 직교기저를 가짐을 구성적으로 증명한다 — "좌표를 단순화하는 최선의 기저는 항상 존재한다"는 보장. 둘째, 직교여공간 $W^\perp$이라는 표준적 분해 $V=W\oplus W^\perp$를 이용해, 행렬의 행계수 = 열계수라는, 그 자체로는 자명해 보이지 않는 정리를 증명한다.

직관

스칼라곱 $\langle v,w\rangle$을 "$v$ 방향에서 $w$가 얼마나 겹치는가"의 측정값으로 생각하면 모든 정의가 자연스럽다. $\langle v,v\rangle$은 $v$가 자기 자신과 완전히 겹치는 정도이므로 노름의 제곱이 된다. $\langle v,w\rangle=0$은 "전혀 겹치지 않음" — 직교. Schwarz 부등식 $|\langle v,w\rangle|\le\|v\|\|w\|$는 "겹침의 양은 두 벡터 각각의 크기를 넘을 수 없다"는, 코사인이 $[-1,1]$에 갇혀 있다는 사실의 대수적 표현이다.

Gram–Schmidt의 그림은 더 간단하다: 기저 벡터들을 하나씩 처리하면서, 이미 처리한 벡터들이 만드는 방향 성분을 빼낸다. $v_2$에서 $v_1$ 방향 성분을 빼면 남는 것은 $v_1$과 완전히 수직인 "찌꺼기"뿐이다. 이를 반복하면 서로 완전히 독립적인(수직인) "순수 방향"들의 집합이 만들어진다 — 그림자를 계속 빼나가는 과정.

직교여공간 $W^\perp$는 "$W$ 방향 정보가 전혀 없는 나머지 전부"다. 양의 정부호 공간에서는 이 나머지가 정확히 $V$의 남은 자유도를 채워, $V=W\oplus W^\perp$라는 깔끔한 분해가 항상 성립한다.

정의

$K$ 위의 벡터공간 $V$ 위의 스칼라곱(scalar product) 은 각 쌍 $(v,w)$에 스칼라 $\langle v,w\rangle\in K$를 대응시키는 함수로, 다음을 만족한다:1 - SP 1 (대칭). $\langle v,w\rangle=\langle w,v\rangle$. - SP 2–3 (쌍선형). 각 변수에서 가법적·동차적: $\langle v+v',w\rangle=\langle v,w\rangle+\langle v',w\rangle$, $\langle cv,w\rangle=c\langle v,w\rangle$ (대칭성에 의해 둘째 변수도 자동으로 같은 성질).

비퇴화(non-degenerate) 란 $\langle v,w\rangle=0\ (\forall w\in V)\implies v=O$.2 $K^n$ 위의 점곱과 함수공간 위의 $\langle f,g\rangle=\int_0^1 fg\,dx$가 대표적 예다.3 $\langle v,w\rangle=0$이면 $v,w$는 직교(orthogonal), 부분집합 $S$에 대해 $S^\perp:=\{w\in V:\langle w,s\rangle=0\ \forall s\in S\}$는 항상 $V$의 부분공간 — 직교공간.4

양의 정부호(positive definite). $\mathbb{R}$ 위에서, $\langle v,v\rangle\ge0$이고 $v\ne O\implies\langle v,v\rangle>0$.5 이 경우 노름 $\|v\|:=\sqrt{\langle v,v\rangle}$, 거리 $\|v-w\|$가 유클리드 기하를 재현한다.

대상 정의 비고
노름 $\|v\|=\sqrt{\langle v,v\rangle}$ 양의 정부호일 때만 실수로 잘 정의
$v$의 $w$ 위 성분 $c=\langle v,w\rangle/\langle w,w\rangle$ $v-cw\perp w$를 만드는 유일한 $c$
직교기저 서로 수직인 기저
정규직교기저 직교 + 각 노름 $=1$ 스칼라곱이 점곱이 됨
$S^\perp$ $S$의 모든 원소와 직교하는 벡터 전체 항상 부분공간

주요 정리

정리 (Schwarz 부등식, Thm 1.1). 양의 정부호 공간에서 모든 $v,w$에 대해 $$|\langle v,w\rangle|\le\|v\|\,\|w\|.$$ 7

증명 보기

증명. $w=O$이면 자명. $w\ne O$라 하고 $c=\langle v,w\rangle/\langle w,w\rangle$ (성분)로 두자. $v-cw$와 $w$가 직교함을 직접 확인: $\langle v-cw,w\rangle=\langle v,w\rangle-c\langle w,w\rangle=0$. Pythagoras를 $v=(v-cw)+cw$에 적용하면 $$\|v\|^2=\|v-cw\|^2+\|cw\|^2\ge\|cw\|^2=c^2\|w\|^2=\frac{\langle v,w\rangle^2}{\|w\|^2}.$$ 양변에 $\|w\|^2$를 곱하고 제곱근을 취하면 $|\langle v,w\rangle|\le\|v\|\|w\|$. $\blacksquare$

정리 (Pythagoras). $v\perp w$이면 $\|v+w\|^2=\|v\|^2+\|w\|^2$.6

증명 보기

증명. $\|v+w\|^2=\langle v+w,v+w\rangle=\langle v,v\rangle+2\langle v,w\rangle+\langle w,w\rangle=\|v\|^2+\|w\|^2$ ($\langle v,w\rangle=0$이므로 가운데 항 소거). $\blacksquare$

정리 (삼각부등식, Thm 1.2). $\|v+w\|\le\|v\|+\|w\|$.8

증명 보기

증명. $\|v+w\|^2=\|v\|^2+2\langle v,w\rangle+\|w\|^2\le\|v\|^2+2\|v\|\|w\|+\|w\|^2=(\|v\|+\|w\|)^2$ (Schwarz로 $\langle v,w\rangle\le|\langle v,w\rangle|\le\|v\|\|w\|$). 양변 제곱근. $\blacksquare$

정리 (Gram–Schmidt, Thm 2.1 / 따름 2.2). 양의 정부호 스칼라곱을 가진 유한차원 공간은 직교기저(따라서 정규직교기저)를 가진다. 임의의 부분공간의 직교기저는 전체 공간의 직교기저로 확장된다.11

증명 보기

증명 (구성적). 기저 $v_1,\dots,v_n$에서 시작해 귀납적으로 직교 벡터 $u_1,\dots,u_n$을 만든다. $$u_1:=v_1,\qquad u_k:=v_k-\sum_{i=1}^{k-1}\frac{\langle v_k,u_i\rangle}{\langle u_i,u_i\rangle}u_i\quad(k=2,\dots,n).$$ 각 단계에서 $u_k$는 $u_1,\dots,u_{k-1}$ 모두와 직교함을 직접 계산으로 확인할 수 있다(빼낸 항이 정확히 그 방향 성분을 제거하도록 설계됨). $u_k\ne O$인 이유는 $v_1,\dots,v_k$가 일차독립이고 $u_k$가 $v_k$와 $u_1,\dots,u_{k-1}$(즉 $v_1,\dots,v_{k-1}$)의 결합의 차이이기 때문 — $u_k=O$이면 $v_k$가 앞선 $v_i$들의 결합이 되어 독립성에 모순. 각 $u_i$를 $\|u_i\|$로 나누면 정규직교기저. $\blacksquare$

정규직교기저에서는 스칼라곱이 좌표벡터의 보통 점곱 $X\cdot Y$이 된다 — 직교정규성의 보상.12

정리 (직교여공간 분해, Thm 2.3). $W$가 양의 정부호 공간 $V$($\dim V=n$)의 부분공간이면 $$V=W\oplus W^\perp,\qquad \dim W^\perp=n-\dim W.$$ 13

증명 보기

증명 스케치. $W$의 정규직교기저 $w_1,\dots,w_r$을 Gram–Schmidt로 잡고 $V$ 전체의 정규직교기저 $w_1,\dots,w_r,w_{r+1},\dots,w_n$으로 확장(Thm 2.1). $W^\perp=\langle w_{r+1},\dots,w_n\rangle$임을 보이면($\subseteq$: 직교기저 성질로 직접 확인, $\supseteq$: 차원 계산) $W\cap W^\perp=\{O\}$이고 $W+W^\perp=V$, 직접합. $\blacksquare$

정리 (행계수 = 열계수, rank 정리, Thm 3.2). 임의의 $m\times n$ 행렬 $A$에 대해 행계수 $=$ 열계수 $=:r$. $AX=O$의 해공간 차원은 $n-r$.14

증명 보기

증명 스케치. $AX=O$의 해공간을 두 가지로 동시에 읽는다: (1) $\ker L_A$로서, rank–nullity(선형사상)에 의해 차원 $n-(\text{열계수})$. (2) $A$의 각 행을 $K^n$의 벡터로 보면, $AX=O$는 정확히 $X$가 모든 행과 직교한다는 뜻 — 즉 해공간 $=(\text{행공간})^\perp$, Thm 2.3에 의해 차원 $n-(\text{행계수})$. 두 표현이 같은 공간이므로 $n-(\text{열계수})=n-(\text{행계수})$, 즉 행계수 $=$ 열계수. $\blacksquare$15

예제

예제 1 (Schwarz, 구체적 검증). $v=(3,4)$, $w=(1,0)$ ($\mathbb{R}^2$ 점곱). $\langle v,w\rangle=3$, $\|v\|=5$, $\|w\|=1$. $3\le5\cdot1=5$. ✓ (등호는 $v,w$가 평행할 때만 — 여기선 등호가 아님을 확인.)

예제 2 (성분, 사영). $v=(2,3)$를 $w=(1,1)$ 위에 사영. 성분 $c=\langle v,w\rangle/\langle w,w\rangle=5/2$. 사영 $cw=(5/2,5/2)$. $v-cw=(-1/2,1/2)$가 $w$와 직교함을 확인: $\langle(-1/2,1/2),(1,1)\rangle=-1/2+1/2=0$. ✓

예제 3 (Gram–Schmidt, 구체적인 세 벡터). $\mathbb{R}^3$ 점곱, $v_1=(1,1,0)$, $v_2=(1,0,1)$, $v_3=(0,1,1)$. $$u_1=(1,1,0).$$ $$c=\frac{\langle v_2,u_1\rangle}{\langle u_1,u_1\rangle}=\frac{1}{2},\quad u_2=v_2-\tfrac12u_1=(1,0,1)-(\tfrac12,\tfrac12,0)=(\tfrac12,-\tfrac12,1).$$ $$c_1=\frac{\langle v_3,u_1\rangle}{\langle u_1,u_1\rangle}=\frac12,\quad c_2=\frac{\langle v_3,u_2\rangle}{\langle u_2,u_2\rangle}=\frac{1/2}{3/2}=\frac13,$$ $$u_3=v_3-\tfrac12u_1-\tfrac13u_2=(0,1,1)-(\tfrac12,\tfrac12,0)-(\tfrac16,-\tfrac16,\tfrac13)=(-\tfrac23,\tfrac23,\tfrac23).$$ 검산: $\langle u_1,u_2\rangle=\tfrac12-\tfrac12+0=0$, $\langle u_1,u_3\rangle=-\tfrac23+\tfrac23+0=0$, $\langle u_2,u_3\rangle=-\tfrac13-\tfrac13+\tfrac23=0$. 셋 모두 직교. ✓ 정규화하면 정규직교기저를 얻는다.

예제 4 (정규직교기저에서 점곱으로 환원). 표준기저 $\{E_1,E_2\}$는 이미 정규직교(점곱에서). $v=(3,-2)$, $w=(1,5)$의 스칼라곱은 좌표를 그대로 점곱: $\langle v,w\rangle=3-10=-7$.

예제 5 (직교여공간, 구체적 부분공간). $V=\mathbb{R}^3$, $W=\langle(1,1,0)\rangle$ (직선). $W^\perp=\{(x,y,z):x+y=0\}=\langle(1,-1,0),(0,0,1)\rangle$, 차원 $2=3-1$. ✓ $V=W\oplus W^\perp$ 확인: $(2,5,3)=\frac{7}{2}(1,1,0)+(-\frac32,\frac32,0)+(0,0,3)$ — 첫째 항은 $W$, 나머지는 $W^\perp$ 성분의 합.

예제 6 (Cramer 없이, 행계수=열계수 직접 확인). $A=\begin{pmatrix}1&2&3\\2&4&6\end{pmatrix}$. 행: 둘째 행 $=2\times$첫째 행 ⟹ 행계수 $1$. 열: 모든 열이 $(1,2)$의 배수 ⟹ 열계수 $1$. 일치. ✓ $AX=O$의 해공간: $x+2y+3z=0$ 하나의 식 ⟹ 차원 $3-1=2$.

예제 7 (함수공간의 스칼라곱, 추상 사례). $V=C[0,1]$, $\langle f,g\rangle=\int_0^1fg\,dx$. $f=1$, $g=2x-1$에 대해 $\langle f,g\rangle=\int_0^1(2x-1)dx=[x^2-x]_0^1=0$ — $f\perp g$. 르장드르 다항식의 직교성이 바로 이 스칼라곱에서 Gram–Schmidt로 나온다(다항식 기저 $1,x,x^2,\dots$에 적용).

예제 8 (비퇴화이지만 양의 정부호가 아닌 경우). $K=\mathbb{R}$, $\langle(x_1,x_2),(y_1,y_2)\rangle=x_1y_1-x_2y_2$ (민코프스키형). 비퇴화이지만 $v=(1,1)$에 대해 $\langle v,v\rangle=0$이면서 $v\ne O$ — 양의 정부호가 아님을 보여주는 예. 이런 경우 노름·Schwarz는 일반적으로 성립하지 않는다(양의 정부호 가정이 본질적으로 쓰인 이유).

흔한 오해와 함정

큰 그림 / 연결

Gram–Schmidt와 직교여공간은 이후 모든 "구조를 보존하는 좋은 기저" 이론의 원형이다. 대칭·에르미트·유니터리 연산자에서 대칭·에르미트·유니터리 연산자는 정확히 스칼라곱과 호환되는 연산자들로 정의되고, 스펙트럼 정리은 그런 연산자가 항상 정규직교 고유기저를 갖는다는, 이 장의 Gram–Schmidt 보장을 한 단계 더 강화한 결과다. 비퇴화이지만 정부호가 아닌 일반적 경우의 $V=W\oplus W^\perp$는 쌍대공간과 쌍선형형식에서 쌍대공간을 통해 증명되며, 그 분류 정리(Sylvester 관성법칙)가 이 페이지의 양의 정부호 가정을 어디까지 완화할 수 있는지 알려준다. 응용 측면에서, "$v-cw\perp w$인 최적의 $c$"라는 사영 아이디어는 최소제곱법·푸리에 급수(함수공간에서 직교 기저로 전개)의 핵심 메커니즘이며, 다른 분야에서는 물리학의 정규직교 기저(양자역학의 상태 벡터), 통계학의 직교 잔차(회귀분석)로 반복해서 나타난다.

연습문제

  1. $v=(1,2,2)$, $w=(2,-1,1)$ ($\mathbb{R}^3$ 점곱)에 대해 $\langle v,w\rangle$, $\|v\|$, $\|w\|$를 구하고 Schwarz 부등식이 성립함을 확인하라.
  2. $v=(4,3)$를 $w=(1,0)$, $w'=(0,1)$ 각각에 사영한 성분을 구하고, 두 성분으로 $v$가 정확히 재구성됨을 보여라.
  3. $v_1=(1,0,1)$, $v_2=(0,1,1)$에 Gram–Schmidt를 적용해 직교기저를 구하라.
  4. $W=\langle(1,0,1)\rangle\subset\mathbb{R}^3$의 직교여공간 $W^\perp$의 기저를 구하고 $\dim W^\perp$를 확인하라.
  5. $A=\begin{pmatrix}1&1&2\\2&2&4\\1&-1&0\end{pmatrix}$의 행계수를 구하고, $AX=O$의 해공간 차원을 예측한 뒤 직접 풀어 확인하라.
  6. 삼각부등식의 등호 $\|v+w\|=\|v\|+\|w\|$가 성립하는 경우를 (증명의 등호 조건을 따라가며) 설명하라.
  7. $K=\mathbb{R}$ 위에서 $\langle(x_1,x_2),(y_1,y_2)\rangle=x_1y_1-x_2y_2$가 비퇴화임을 보이되 양의 정부호가 아님을 보여라.
  8. (개념) 왜 직교여공간 정리(Thm 2.3)의 증명이 Gram–Schmidt(Thm 2.1)를 필요로 하는지 한 문장으로 설명하라.
힌트 / 정답
  1. $\langle v,w\rangle=2-2+2=2$. $\|v\|=\sqrt{1+4+4}=3$. $\|w\|=\sqrt{4+1+1}=\sqrt6$. $2\le3\sqrt6\approx7.35$. ✓
  2. $w$ 위 성분 $c_1=\langle v,w\rangle/\|w\|^2=4$, $w'$ 위 성분 $c_2=3$. $c_1w+c_2w'=(4,0)+(0,3)=(4,3)=v$. ✓ (표준기저가 이미 정규직교이므로 재구성이 정확.)
  3. $u_1=(1,0,1)$. $c=\langle v_2,u_1\rangle/\langle u_1,u_1\rangle=1/2$. $u_2=(0,1,1)-\tfrac12(1,0,1)=(-\tfrac12,1,\tfrac12)$. 검산 $\langle u_1,u_2\rangle=-\tfrac12+0+\tfrac12=0$. ✓
  4. $W^\perp=\{(x,y,z):x+z=0\}$, 기저 $\{(1,0,-1),(0,1,0)\}$, $\dim W^\perp=2=3-1$. ✓
  5. 둘째 행 $=2\times$첫째 행 ⟹ 적어도 종속. 첫째·셋째 행은 독립(비례 아님) ⟹ 행계수 $2$. 해공간 차원 $=3-2=1$. 직접 풀이: $x+y+2z=0,\ x-y=0$ ⟹ $x=y$, $2x+2z=0\Rightarrow z=-x$. 해 $=\{(t,t,-t)\}$, 차원 $1$. ✓
  6. 등호는 Schwarz의 등호 $\langle v,w\rangle=\|v\|\|w\|$일 때, 즉 $v,w$가 같은 방향(음이 아닌 배수)일 때 성립.
  7. 비퇴화: $(x_1,x_2)$가 모든 $(y_1,y_2)$와 직교(즉 $x_1y_1-x_2y_2=0\ \forall y$)이려면 $y=(1,0)$에서 $x_1=0$, $y=(0,1)$에서 $x_2=0$ ⟹ $(x_1,x_2)=O$. 정부호 아님: $(1,1)$에 대해 $\langle(1,1),(1,1)\rangle=1-1=0$이지만 $(1,1)\ne O$.
  8. $W^\perp$를 구체적으로 $V$ 전체의 정규직교기저 중 $W$ 이후 나머지 벡터들이 생성한다고 보이려면, 애초에 $W$의 직교기저를 $V$ 전체로 확장할 수 있어야 하는데 그 확장 가능성이 정확히 Gram–Schmidt(따름 2.2)의 내용이기 때문이다.

관련 개념

  1. 원전 소개 — Lang §V.1 — "SP 1. $\langle v,w\rangle=\langle w,v\rangle$"; SP 2–3 bilinearity in each argument. ↩

  2. 원전 소개 — Lang §V.1 — "non-degenerate if... If $v$ is an element of $V$, and $\langle v,w\rangle=0$ for all $w\in V$, then $v=O$." ↩

  3. 원전 소개 — Lang §V.1 Examples 1–2 — dot product on $K^n$; "$\langle f,g\rangle=\int_0^1 fg$... this is a scalar product." ↩

  4. 원전 소개 — Lang §V.1 — "$S^\perp$ the set of all elements $w\in V$ which are perpendicular to all elements of $S$... $S^\perp$ is a subspace of $V$, called the orthogonal space of $S$." ↩

  5. 원전 소개 — Lang §V.1 — "positive definite if $\langle v,v\rangle\ge 0$ for all $v$, and $\langle v,v\rangle>0$ if $v\neq O$." ↩

  6. 원전 소개 — Lang §V.1 — "The Pythagoras theorem. If $v,w$ are perpendicular, then $\lVert v+w\rVert^2=\lVert v\rVert^2+\lVert w\rVert^2$." ↩

  7. 원전 소개 — Lang §V.1 Thm 1.1 — "Schwarz inequality. For all $v,w\in V$ we have $|\langle v,w\rangle|\le\lVert v\rVert\,\lVert w\rVert$." ↩

  8. 원전 소개 — Lang §V.1 Thm 1.2, 1.4 — triangle inequality; "Bessel inequality... $\sum c_i^2\le\lVert v\rVert^2$." ↩

  9. 원전 소개 — Lang §V.1 — "We call $c$ the component of $v$ along $w$"; Thm 1.3 gives $\lVert v-\sum c_iv_i\rVert\le\lVert v-\sum a_iv_i\rVert$. ↩

  10. 원전 소개 — Lang §V.2 — "orthogonal if its elements are mutually perpendicular... orthonormal" if each has norm 1. ↩

  11. 원전 소개 — Lang §V.2 Thm 2.1, Cor 2.2 — "the Gram-Schmidt orthogonalization process"; "Then $V$ has an orthogonal basis." ↩

  12. 원전 소개 — Lang §V.2 — "in terms of this orthonormal basis... the scalar product is given by the ordinary dot product $X\cdot Y$ of the coordinate vectors." ↩

  13. 원전 소개 — Lang §V.2 Thm 2.3 — "$V$ is the direct sum of $W$ and $W^\perp$, and $W^\perp$ has dimension $n-r$." ↩

  14. 원전 소개 — Lang §V.3 Thm 3.2 — "the row rank and the column rank of $A$ are equal to the same number $r$... $n-r$ is the dimension of the space of solutions." ↩

  15. 원전 소개 — Lang §V.3 (proof) — solution space as $\ker L_A$ and as orthogonal to the rows; combines $\dim\ker+\dim\operatorname{im}=n$ with the orthogonal-complement dimension. ↩