내적, 그림으로 이해하기

내적은 화살표 두 개를 숫자 하나로 바꾸는 셈입니다. 그 숫자는 두 화살표가 얼마나 같은 쪽을 보는지 알려 줍니다. 화살표 끝을 끌어 보세요.

한 줄 답. 내적은 두 벡터에서 숫자 하나를 만드는 셈입니다. 같은 자리의 성분(component)끼리 곱해서 더합니다. (3, 1) · (1, 2) = 3×1 + 1×2 = 5. 뜻은 b 가 a 방향으로 간 길이(정사영, projection) × a 의 길이이고, 식으로 쓰면 |a| × |b| × cos θ 입니다.

a = ( , )

b = ( , )

화살표 끝의 동그라미를 끌거나 숫자를 고쳐 보세요. 막대의 위 눈금은 내적(−|a|×|b| 부터 |a|×|b| 까지), 아래 눈금은 코사인 유사도(−1 부터 1 까지)입니다. 두 눈금은 늘 같은 자리를 가리킵니다.

1. 정의: 성분끼리 곱해서 더하기

벡터는 숫자 몇 개를 묶은 것입니다. 화살표로 그리면 (3, 1) 은 「오른쪽으로 3, 위로 1」입니다. 벡터가 처음이면 벡터 쪽을 먼저 보세요. 거기서 내적을 짧게 소개했고, 이 쪽은 더 깊게 들어갑니다.

내적은 두 벡터를 받아 숫자 하나를 냅니다. 가로는 가로끼리, 세로는 세로끼리 곱하고, 그 둘을 더합니다.

a · b = ax×bx + ay×by

가운데 점(·)을 찍어 적어서 영어로 dot product 라고 부릅니다. 결과는 화살표가 아니라 숫자입니다.

3차원, 1000차원도 같은 식

자리가 늘어날 뿐입니다. 성분끼리 곱해서 모두 더합니다. (1, 2, 3) · (4, 5, 6) = 1×4 + 2×5 + 3×6 = 4 + 10 + 18 = 32. 코드로는 한 줄입니다.

const dot = (a, b) => a.reduce((sum, x, i) => sum + x * b[i], 0);

두 벡터의 차원(dimension, 자리 수)이 같아야 합니다. 차원이 다르면 내적을 구할 수 없습니다.

2. 뜻: 정사영의 길이 × 길이

실험의 주황 선을 보세요. b 의 끝에서 a 가 놓인 직선으로 수직이 되게 선을 내렸습니다(점선). 원점에서 그 선이 닿은 곳까지가 정사영입니다. a 의 직선에 수직으로 빛을 비출 때 b 가 그 직선 위에 남기는 그림자라고 생각하면 됩니다.

정사영의 길이는 「b 가 a 방향으로 얼마나 가는가」입니다. 내적은 이 정사영의 길이에 a 의 길이를 곱한 값입니다.

정사영의 길이는 b 의 길이에 cos θ 를 곱한 것입니다. θ(세타)는 a 와 b 사이의 각도인 사잇각(angle between vectors)입니다. 그래서 두 번째 식이 나옵니다.

a · b = |a| × |b| × cos θ

|a| 는 a 의 길이, 곧 크기(norm)입니다. cos θ 는 사잇각이 0° 면 1, 90° 면 0, 180° 면 −1 인 수입니다. 각도가 벌어질수록 1 에서 −1 로 줄어듭니다. 90° 를 넘으면 음수가 되어 정사영이 a 의 뒤쪽에 떨어집니다.

두 식은 늘 같은 값입니다

화살표를 어떻게 끌어도 설명 줄의 맨 윗줄(성분끼리 곱해 더한 값)과 「|a| × |b| × cos θ」 줄이 같은 값입니다. 왜 그런지는 3. 식이 만들어지는 과정에서 그림으로 한 단계씩 봅니다.

두 식은 쓰임이 다릅니다. 숫자를 알면 첫 식으로 빨리 계산합니다. 그 값을 두 번째 식에 넣어 거꾸로 풀면 각도가 나옵니다.

해 볼 것. 처음 상태(a = (3, 1), b = (1, 2))에서 단추를 눌러 보세요. b 의 길이는 2.24 그대로 두고 방향만 돌립니다. ① 「b 를 a 와 수직으로」: b 가 (−0.71, 2.12) 가 되고, 정사영은 점이 되고, 내적은 0 입니다. ② 「같은 방향으로」: 정사영의 길이가 b 의 길이와 같은 2.24 가 되고, 내적은 가장 큰 7.07(= |a| × |b| = √10 × √5)입니다. ③ 「반대 방향으로」: 내적은 가장 작은 −7.07 입니다.

3. 식이 만들어지는 과정: 두 식이 같은 까닭

1번의 식(성분끼리 곱해 더하기)과 2번의 식(|a| × |b| × cos θ)은 생김새가 전혀 다릅니다. 그런데도 늘 같은 값이 나오는 까닭을 한 단계씩 봅니다. 줄기는 하나입니다. 두 화살표를 같이 돌려 a 를 가로축에 눕히면, 첫 식이 그대로 둘째 식이 됩니다. 화살표는 위 실험의 처음 값 a = (3, 1), b = (1, 2) 입니다.

「다음」을 누르면 한 단계씩 넘어갑니다. 위에 식이 한 줄씩 붙고(주황 바탕이 이번에 붙은 조각), 화살표가 그만큼 돌아가고, 아래에 까닭이 나옵니다. 흐린 화살표는 돌리기 전 자리입니다. 돌린 화살표는 a', b' 로, 그 가로·세로 성분은 a'x, a'y 처럼 적습니다. ② 단계에서는 막대로 돌리는 각도를 바꿔 볼 수 있습니다(+ 는 시계 반대 방향).

  1. 처음: a · b = ax×bx + ay×by. 3×1 + 1×2 = 5. 길이는 |a| = √10 ≈ 3.16, |b| = √5 ≈ 2.24, 사잇각은 45° 입니다.
  2. 둘을 같이 돌린다: = a'x×b'x + a'y×b'y. 평면을 통째로 돌리듯 두 화살표를 같은 각도만큼 돌리면 길이와 사잇각은 그대로입니다. 성분끼리 곱해 더한 값도 그대로입니다. 90° 돌리면 a' = (−1, 3), b' = (−2, 1) 이고 (−1)×(−2) + 3×1 = 2 + 3 = 5 입니다. 까닭: 값이 그대로이니, 계산하기 쉬운 쪽으로 돌려 놓고 계산해도 됩니다.
  3. a 를 가로축에 눕힌다: = |a|×b'x + 0×b'y. 시계 방향으로 18.43° 돌리면 a 가 가로축 위에 놓입니다. 길이는 그대로라 a' = (|a|, 0) = (3.16, 0), b' 는 (1.58, 1.58) 입니다. 까닭: a' 의 세로 성분이 0 이라 둘째 항이 사라지고, 식이 |a| × b'x 로 줄어듭니다.
  4. b'x 는 정사영이다: = |a| × |b| × cos θ. b' 의 끝에서 가로축으로 수직이 되게 선을 내리면, 원점에서 그 선이 닿은 곳까지가 b'x 입니다. a' 가 가로축 위에 있으니 b' 는 가로축과 θ 만큼 벌어져 있습니다. 길이가 |b| 이고 가로축과 θ 만큼 벌어진 화살표는 가로로 |b| × cos θ 만큼 갑니다. cos 의 뜻이 바로 이것입니다. 지금은 2.24 × cos 45° ≈ 1.58. 까닭: 남은 b'x 를 길이와 각도로 바꾸면 둘째 식이 됩니다. θ 가 90° 를 넘으면 cos θ 가 음수라 b'x 도 음수(정사영이 a 의 뒤쪽)이고, b' 가 가로축 아래에 있어도 가로로 간 만큼은 같습니다.
  5. 완성: a · b = ax×bx + ay×by = |a| × |b| × cos θ. 돌리기 전의 값과 돌린 뒤의 값이 같고, 돌린 뒤의 값은 |a| × |b| × cos θ 입니다. 숫자로는 √10 × √5 × cos 45° = √50 × (1 ÷ √2) = √25 = 5, 첫 식과 같습니다. 되돌리면 정사영이 a 의 직선 위로 따라옵니다. 2번의 「정사영의 길이 × a 의 길이」가 이것입니다.

돌려도 값이 그대로인 것을 식으로 확인하기. 두 화살표를 φ(파이) 만큼 돌리면 성분은 x' = x cos φ − y sin φ, y' = x sin φ + y cos φ 가 됩니다. 이것을 a'x×b'x + a'y×b'y 에 넣어 풀면 cos φ × sin φ 가 붙은 항들은 서로 지워지고 ax×bx × (cos²φ + sin²φ) + ay×by × (sin²φ + cos²φ) 가 남습니다. cos²φ + sin²φ = 1 이라 처음의 ax×bx + ay×by 와 같습니다.

이 과정은 평면(자리 둘)에서 보였습니다. 3차원에서도 a 를 한 축 위에, b 를 그 축이 지나는 한 평면 안에 오게 돌리면 같은 길을 갑니다. 여기서는 증명하지 않습니다.

4. 손으로 따라 풀기

a = (3, 1), b = (1, 2) 로 두 식을 모두 계산해 봅니다. 실험의 처음 상태와 같습니다.

  1. 성분끼리 곱한다. 가로: 3 × 1 = 3. 세로: 1 × 2 = 2.
  2. 더한다. 3 + 2 = 5. 그래서 a · b = 5. 양수라서 둘은 비슷한 쪽을 봅니다.
  3. 길이를 구한다. |a| = √(3² + 1²) = √10 ≈ 3.16, |b| = √(1² + 2²) = √5 ≈ 2.24.
  4. cos θ 를 구한다. 두 번째 식을 거꾸로 풀면 cos θ = 5 ÷ (√10 × √5) = 5 ÷ √50 ≈ 5 ÷ 7.07 ≈ 0.71. cos θ 가 0.71(정확히는 1 ÷ √2)인 각도는 45° 입니다.
  5. 정사영의 길이를 구한다. 5 ÷ |a| = 5 ÷ 3.16 ≈ 1.58. b 는 a 방향으로 1.58 만큼 갑니다.
  6. 두 번째 식으로 확인한다. |a| × |b| × cos 45° = √50 × 0.707 ≈ 7.07 × 0.707 ≈ 5. 첫 식과 같습니다.

5. 부호: 양수, 0, 음수

|a| 와 |b| 는 늘 0 이상입니다. 그래서 내적의 부호는 cos θ 의 부호가 정하고, cos θ 의 부호는 사잇각이 정합니다.

내적사잇각정사영뜻
양수90° 보다 작다a 쪽에 떨어진다비슷한 쪽을 본다
090°점이 된다수직이다
음수90° 보다 크다a 의 뒤쪽에 떨어진다반대쪽을 본다

수직인지 알아보기

두 화살표가 수직(perpendicular, 직교)인지 알고 싶으면 내적이 0 인지만 보면 됩니다. 각도를 구할 필요가 없습니다. 곱셈과 덧셈만 합니다.

예: (3, 1) · (−1, 3) = 3×(−1) + 1×3 = 0. 그래서 둘은 수직입니다. 평면에서는 (x, y) 의 두 숫자를 바꾸고 하나에 마이너스를 붙인 (−y, x) 가 늘 수직입니다. x×(−y) + y×x = 0 이기 때문입니다.

길이가 0 인 벡터 (0, 0) 은 무엇과 내적해도 0 입니다. 책에서는 그래서 (0, 0) 도 모든 벡터와 직교한다고 부릅니다. 다만 화살표가 없으니 각도는 없습니다. 실험에서도 이때는 각도를 적지 않습니다.

해 볼 것. 처음 상태에서 ① b 에 (−1, 3) 을 넣으면 내적이 0, 사잇각이 90° 입니다. ② b 에 (−2, 1) 을 넣으면 3×(−2) + 1×1 = −5 입니다. 사잇각은 135°, 정사영의 길이는 −1.58 로 a 의 뒤쪽에 떨어집니다. ③ a 에 (0, 0) 을 넣으면 내적은 0 이고 각도는 나오지 않습니다.

6. 길이와 각도도 내적으로

벡터를 자기 자신과 내적하면 길이의 제곱이 나옵니다. a · a = ax² + ay² 이고, 피타고라스 정리로 이것이 길이의 제곱입니다. 그래서

|a| = √(a · a)

예: (3, 4) · (3, 4) = 9 + 16 = 25, 길이는 √25 = 5. 3차원 이상에서도 같은 식으로 길이를 잽니다.

두 식을 묶으면 각도도 나옵니다.

cos θ = a · b ÷ (|a| × |b|)

각도기 없이 곱셈, 덧셈, 제곱근만으로 cos θ 를 얻습니다. 각도 자체가 필요하면 cos 를 거꾸로 푸는 함수(arccos, 코드에서는 Math.acos)를 씁니다. Math.acos 는 라디안으로 답하므로 × 180 ÷ π 를 해야 도(°)가 됩니다.

코드로 옮길 때. 셈 오차로 a · b ÷ (|a| × |b|) 가 1.0000000000000002 처럼 1 을 살짝 넘으면 Math.acos 가 NaN 을 냅니다. −1 과 1 사이로 잘라서 넣습니다. 길이가 0 인 벡터가 있으면 0 으로 나누게 되니 먼저 따로 처리합니다.

7. 코사인 유사도: 길이를 뺀 내적

내적은 길이에 따라 커집니다. b 를 두 배로 늘리면 내적도 두 배가 됩니다. 그런데 「얼마나 같은 쪽을 보나」만 알고 싶을 때가 많습니다. 그럴 때는 내적을 두 길이로 나눕니다. 위의 cos θ 와 같은 값이고, 코사인 유사도라고 부릅니다. 1 이면 같은 방향, 0 이면 수직, −1 이면 정반대 방향입니다.

실험의 막대가 이것을 보여 줍니다. 위 눈금(내적)의 끝은 |a| × |b| 이고, 아래 눈금(코사인 유사도)의 끝은 1 입니다. 내적 = |a| × |b| × cos θ 라서 두 눈금은 늘 같은 자리를 가리킵니다.

길이를 1 로 맞추면 내적이 곧 코사인 유사도입니다. |a| = |b| = 1 이면 나눌 것이 없기 때문입니다. 예: (3, 4) 와 (4, 3) 은 내적이 24 이고 코사인 유사도는 24 ÷ (5 × 5) = 0.96 입니다. 길이를 1 로 줄인 (0.6, 0.8) 과 (0.8, 0.6) 은 내적이 0.48 + 0.48 = 0.96 이고, 코사인 유사도도 0.96 입니다. 벡터를 자기 길이로 나눠 길이를 1 로 만드는 것을 정규화라고 합니다.

AI 검색에서

AI 는 문장, 그림, 상품을 숫자 수백~수천 개짜리 벡터로 바꿉니다. 이것을 임베딩이라고 합니다. 뜻이 비슷하면 벡터가 비슷한 쪽을 보도록 만들어져 있습니다. 그래서 검색은 이렇게 합니다.

  1. 질문을 같은 방식으로 벡터로 바꾼다.
  2. 저장해 둔 벡터마다 질문 벡터와의 코사인 유사도를 구한다.
  3. 값이 큰 순서로 몇 개를 고른다.

벡터를 미리 정규화해 두면 2번이 내적 한 번으로 끝납니다. 나눗셈과 제곱근이 빠집니다. 임베딩 서비스 가운데에는 처음부터 길이를 1 로 맞춘 벡터를 주는 것도 있습니다. 벡터 DB 에서 「거리 방식」으로 cosine, dot product(inner product), euclidean 가운데 하나를 고르라고 할 때 앞의 둘이 이것입니다. 「코사인 거리」는 1 − 코사인 유사도 라서 작을수록 가깝습니다.

해 볼 것. 처음 상태에서 b 에 (2, 4) 를 넣어 b 를 두 배로 늘려 보세요. 내적은 5 에서 10 으로 두 배가 되지만 cos θ 는 0.71, 각도는 45° 그대로입니다. 막대의 표시도 그 자리에 있고, 위 눈금 끝의 숫자만 7.07 에서 14.14 로 바뀝니다.

8. 꼭 알아야 할 성질

숫자 칸의 예는 a = (3, 1), b = (1, 2), c = (−1, 3), k = 2 입니다.

성질식숫자로
순서를 바꿔도 같다a · b = b · a(1, 2) · (3, 1) = 3 + 2 = 5
더한 뒤 해도, 따로 해서 더해도 같다a · (b + c) = a · b + a · c(3, 1) · (0, 5) = 5 = 5 + 0
곱한 숫자는 밖으로 꺼낼 수 있다(k × a) · b = k × (a · b)(6, 2) · (1, 2) = 10 = 2 × 5
자기 자신과 하면 길이의 제곱a · a = |a|²(3, 1) · (3, 1) = 10 = (√10)². 0 이 되는 것은 (0, 0) 뿐
0 이면 수직(길이가 0 이 아닐 때)a · b = 0(3, 1) · (−1, 3) = 0

첫 성질 덕분에 정사영은 어느 쪽으로 떨어뜨려도 됩니다. a · b 는 「a 가 b 방향으로 간 길이 × b 의 길이」와도 같습니다.

어디에 쓰나

자주 묻는 것

내적이 뭔가요?

두 벡터에서 숫자 하나를 만드는 셈입니다. 성분끼리 곱해서 더합니다. 이 값은 한쪽이 다른 쪽 방향으로 간 길이(정사영)에 다른 쪽의 길이를 곱한 것과 같고, |a| × |b| × cos θ 로도 구합니다.

내적이 0 이면 무슨 뜻인가요?

두 벡터가 수직이라는 뜻입니다. 한쪽이 다른 쪽 방향으로 조금도 가지 않아 정사영이 점이 됩니다. 한쪽 길이가 0 일 때도 내적은 0 입니다.

내적과 코사인 유사도는 무엇이 다른가요?

코사인 유사도는 내적을 두 길이의 곱으로 나눈 값입니다. 길이를 빼고 방향만 보며 −1 에서 1 사이입니다. 두 벡터의 길이가 모두 1 이면 내적과 코사인 유사도는 같은 값입니다.

3차원이나 1000차원에서도 같은 식인가요?

네. 자리가 늘 뿐 성분끼리 곱해서 모두 더합니다. (1, 2, 3) · (4, 5, 6) = 4 + 10 + 18 = 32 입니다. 길이, 각도, 코사인 유사도도 같은 식으로 구합니다.

내적과 외적은 무엇이 다른가요?

내적은 숫자 하나를 내고, 두 벡터가 얼마나 같은 쪽을 보는지 잽니다. 외적은 3차원에서 두 벡터 모두와 수직인 벡터를 내고, 그 길이는 두 벡터가 만드는 평행사변형의 넓이입니다.

낱말

여기서 쓴 말책에서 부르는 말
내적내적, 점곱, 스칼라곱(dot product, scalar product). a · b 로 적는다. 영어 inner product 는 더 넓은 말이고, 이 쪽의 셈은 그 가운데 가장 흔한 것이다
같은 자리의 숫자(가로, 세로)성분(component)
길이크기, 노름(norm, magnitude). |a| 또는 ‖a‖ 로 적는다
a 와 b 사이의 각도 θ두 벡터가 이루는 각(angle between vectors). θ 는 「세타」로 읽는다
그림자정사영(projection)
그림자 길이부호가 있는 정사영의 길이(scalar projection)
직각이다수직이다, 직교한다(perpendicular, orthogonal). a ⊥ b 로 적는다
길이를 1 로 맞추기정규화(normalization). 길이가 1 인 벡터는 단위 벡터(unit vector)
코사인 유사도cosine similarity
자리 수차원(dimension)
순서를 바꿔도 같다 · 더한 뒤 해도 같다교환법칙(commutative law) · 분배법칙(distributive law)

← 일차결합과 생성외적 →