벡터 검색: 가장 가까운 것 찾기

「질문(쿼리, query)과 뜻이 가장 비슷한 글 찾기」는 컴퓨터 안에서 「쿼리 점에 가장 가까운 점 찾기」가 됩니다. 쿼리 점을 끌어 보세요. 가장 가까운 점들이 따라 바뀝니다.

한 줄 답. 벡터 검색은 쿼리를 벡터로 바꾼 뒤, 저장해 둔 벡터들 가운데 가장 가까운 k 개를 찾는 일입니다. 하나하나 다 재 보면(kNN) 정확하지만 느립니다. 그래서 벡터 DB 는 미리 길(색인)을 만들어 두고 「거의 가장 가까운 것」을 빨리 찾습니다. 이것을 근사 최근접 이웃 검색(ANN), 줄여서 근사 검색이라고 합니다.

작게 줄인 본보기: 2차원 점 300개. 진짜 벡터는 수백~수천 차원이고 수백만 개입니다.

쿼리 = ( , )

검은 동그라미(쿼리)를 끌거나 숫자를 고쳐 보세요. 초록 점과 선이 가장 가까운 k 개입니다. 코사인 유사도와 내적을 고르면 원점에서 쿼리 쪽으로 점선이 뻗습니다. 두 방식은 원점에서 본 방향으로 재기 때문입니다.

1. 벡터 검색이란

글, 그림, 상품 같은 자료를 임베딩 모델에 넣으면 숫자 수백~수천 개로 된 벡터가 나옵니다. 모델은 뜻이 비슷한 자료가 가까운 벡터가 되도록 학습되어 있습니다. 그래서 「비슷한 것 찾기」가 「가까운 벡터 찾기」로 바뀝니다.

가장 단순한 방법은 모든 점을 다 재 보는 완전 탐색(brute-force search)입니다.

  1. 미리. 자료를 하나씩 벡터로 바꿔 저장합니다.
  2. 쿼리가 오면. 같은 모델로 쿼리를 벡터로 바꿉니다.
  3. 저장한 벡터마다 쿼리와의 거리를 잽니다.
  4. 가까운 차례로 줄 세워 앞의 k 개를 냅니다.
// 완전 탐색: 모든 점을 재고, 가까운 차례로 줄 세워 앞의 k 개를 낸다
const nearest = (points, query, k) =>
  points.map((p, id) => [distance(query, p), id])
        .sort((a, b) => a[0] - b[0])
        .slice(0, k);

이것을 k-최근접 이웃(kNN, k nearest neighbors)이라고 부릅니다. 늘 정확합니다. 대신 점이 몇 개든 그 수만큼 잽니다.

이 쪽의 실험은 작게 줄인 본보기입니다. 점은 2차원이고 300 개입니다. 진짜 임베딩은 수백~수천 차원이고, 벡터가 수백만 개일 때도 많습니다. 2차원에서는 눈으로 거리를 볼 수 있지만, 차원이 높아지면 거리가 다르게 움직입니다(9절).

해 볼 것. ① 처음 상태(쿼리 (1.6, 0.6), k = 5, 유클리드 거리)에서 설명 줄의 비교한 횟수는 300 입니다. ② k 막대를 1 에서 20 까지 옮기면 초록 선이 쿼리 둘레로 넓게 퍼집니다. ③ 쿼리를 점이 없는 빈 곳으로 끌어도 5 개가 나옵니다. 멀어도 「그 가운데 가장 가까운 것」이기 때문입니다. 비슷한 것이 하나도 없을 때도 답이 나오므로, 실제로는 거리(점수)를 같이 보고 기준을 정합니다.

2. 「가깝다」를 재는 세 가지 방법

두 벡터 q(쿼리)와 p(저장한 점)가 얼마나 가까운지 재는 방법은 여럿입니다. 많이 쓰는 것은 셋입니다.

방식식(2차원)뜻가까운 쪽
유클리드 거리(Euclidean distance)√((q₁−p₁)² + (q₂−p₂)²)두 점 사이를 자로 잰 길이작을수록
코사인 유사도(q · p) ÷ (|q| × |p|)원점에서 본 두 방향이 얼마나 같은가. −1 ~ 1클수록
내적q · p = q₁×p₁ + q₂×p₂방향이 같을수록, 그리고 길수록 커진다클수록

차원이 늘면 자리만 늘어납니다. 1,024차원이면 q₁×p₁ + q₂×p₂ + … + q₁₀₂₄×p₁₀₂₄ 입니다. |q| 는 q 의 길이입니다. 내적과 코사인 유사도는 내적 쪽에 자세히 있습니다.

코사인 유사도와 내적은 원점을 기준으로 잽니다. 그래서 쿼리 바로 옆의 점보다, 멀어도 원점에서 본 방향이 같은 점을 고를 수 있습니다. 내적은 길이도 보기 때문에, 같은 쪽을 보면 원점에서 멀수록(길수록) 점수가 큽니다.

해 볼 것. ① 처음 상태에서 설명 줄은 「코사인 유사도 1/5, 내적 0/5」입니다. 유클리드 거리로 고른 5 개와 코사인 유사도로 고른 5 개는 하나만 같고, 내적으로 고른 5 개는 하나도 같지 않습니다. ② 「코사인 유사도」를 누르면 점선 가까이의 점이 뽑힙니다. 원점에서 쿼리보다 두 배쯤 먼 (3, 1.2) 근처의 점 셋도 들어갑니다. ③ 「내적」을 누르면 오른쪽 위 무리의 바깥쪽 끝이 뽑힙니다. 비슷한 쪽을 보면서 가장 긴 점들입니다.

길이를 1 로 맞추면 셋이 같아집니다

정규화는 방향은 두고 길이만 1 로 맞추는 것입니다. p ÷ |p|. 점이 모두 반지름 1 인 원 위로 갑니다.

저장한 벡터의 길이가 모두 1 이면 유클리드 거리의 제곱은 이렇게 풀립니다.

|q − p|² = |q|² + |p|² − 2 × (q · p) = |q|² + 1 − 2 × (q · p)

쿼리 하나를 두고 보면 |q| 는 늘 같습니다. 그래서 q · p 가 클수록 거리가 짧습니다. 코사인 유사도는 (q · p) ÷ |q| 가 되어, 이것도 q · p 의 차례와 같습니다. 셋 모두 q · p 하나로 줄 세우는 셈입니다. 쿼리의 길이는 순위를 바꾸지 않습니다.

해 볼 것. 「길이를 1 로 맞추기」를 켜면 점들이 원 위로 옮겨 가고, 설명 줄이 「코사인 유사도 5/5, 내적 5/5」가 됩니다. 어느 방식을 골라도 같은 5 개가 뽑힙니다. k 를 20 으로 올려도 20/20 입니다.

언제 무엇을 쓰나

3. 손으로 따라 풀기: 점 넷의 순위

쿼리 q = (2, 1) 과 점 넷 A (2, 2), B (4, 1), C (1, 0.5), D (−1, 2) 로 세 방식의 순위를 매겨 봅니다.

  1. 유클리드 거리. 자리끼리 빼서 제곱해 더하고 제곱근.
    A: √(0² + 1²) = 1, B: √(2² + 0²) = 2, C: √(1² + 0.5²) = √1.25 ≈ 1.12, D: √(3² + 1²) = √10 ≈ 3.16.
    작은 차례: A, C, B, D.
  2. 내적. 자리끼리 곱해 더하기.
    A: 2×2 + 1×2 = 6, B: 2×4 + 1×1 = 9, C: 2×1 + 1×0.5 = 2.5, D: 2×(−1) + 1×2 = 0.
    큰 차례: B, A, C, D.
  3. 코사인 유사도. 내적 ÷ 두 길이의 곱. |q| = √5.
    A: 6 ÷ (√5 × √8) = 6 ÷ √40 ≈ 0.95, B: 9 ÷ (√5 × √17) = 9 ÷ √85 ≈ 0.98, C: 2.5 ÷ (√5 × √1.25) = 2.5 ÷ 2.5 = 1, D: 0.
    큰 차례: C, B, A, D.
점유클리드 거리내적코사인 유사도
A (2, 2)1 (1등)6 (2등)0.95 (3등)
B (4, 1)2 (3등)9 (1등)0.98 (2등)
C (1, 0.5)1.12 (2등)2.5 (3등)1 (1등)
D (−1, 2)3.16 (4등)0 (4등)0 (4등)

세 방식의 1등이 모두 다릅니다. A 는 쿼리 바로 옆에 있습니다. C 는 쿼리와 방향이 똑같지만 짧습니다. B 는 방향이 조금 다르지만 깁니다.

길이를 1 로 맞추면. A ≈ (0.71, 0.71), B ≈ (0.97, 0.24), C ≈ (0.89, 0.45), D ≈ (−0.45, 0.89) 가 됩니다. 쿼리와의 내적은 A 2.12, B 2.18, C 2.24, D 0 입니다. 이제 세 방식 모두 C, B, A, D 차례입니다.

4. 왜 다 재 보면 안 되나

완전 탐색의 셈은 벡터 수 × 차원 입니다. 쿼리 하나마다 저장한 벡터 하나하나와 차원 수만큼 곱하고 더합니다.

그래도 자료가 작으면 완전 탐색이 낫습니다. 벡터가 수천~수만 개면 다 재 봐도 충분히 빠를 때가 많고, 색인을 만들고 고칠 일이 없고, 늘 정확합니다. 먼저 재 보고, 느릴 때 근사 검색으로 갑니다.

5. 역파일 색인(IVF): 칸으로 나눠 빨리 찾기

도서관에서 책을 찾을 때 모든 서가를 뒤지지 않습니다. 분야 표지판을 보고 맞는 서가로 갑니다. 칸으로 나누기도 같습니다.

  1. 미리(색인 만들기). 점들을 c 개의 무리로 묶습니다. 무리마다 중심이 하나 생깁니다.
  2. 점마다 가장 가까운 중심의 칸에 넣어 둡니다. 칸마다 점 목록이 생깁니다.
  3. 쿼리가 오면. 중심 c 개와 쿼리의 거리를 잽니다.
  4. 가장 가까운 중심 n 개(살펴볼 칸의 수인 프로브 수, nprobe)를 고릅니다.
  5. 그 칸들 안의 점만 재서 가장 가까운 k 개를 냅니다.

비교 횟수 = c(중심) + 살펴본 칸들의 점 수

군집화(clustering, k-평균). ① 점 c 개를 골라 처음 중심으로 삼습니다. ② 점마다 가장 가까운 중심에 붙입니다. ③ 중심을 붙은 점들의 평균 자리로 옮깁니다. ④ ②와 ③을 되풀이합니다. 이 실험은 10 번 되풀이합니다. k-평균의 k 는 무리의 수입니다. 이 쪽에서는 찾을 개수 k 와 헷갈리지 않게 c 로 적습니다.

「어느 중심에 가장 가까운가」로 평면을 나누면 칸이 생깁니다. 실험의 회색 선이 칸의 경계입니다.

작게 줄인 본보기. 유클리드 거리로만 잽니다.

쿼리 = ( , )

회색 선은 칸의 경계, 파란 십자는 칸의 중심입니다. 연한 초록 칸이 살펴본 칸이고, 그 안의 진한 점만 쟀습니다. 초록 선은 찾은 k 개입니다. 주황 점선 동그라미(「놓침」)는 진짜 가장 가까운 k 개에 드는데 찾지 못한 점입니다. 작은 그래프는 6절에서 봅니다.

재현율: 얼마나 놓쳤나

쿼리가 칸 경계 가까이 있으면, 진짜 가까운 점이 옆 칸에 있을 수 있습니다. 옆 칸을 열어 보지 않으면 놓칩니다. 얼마나 놓쳤는지는 재현율로 잽니다.

재현율 = (찾은 것 가운데 진짜 가장 가까운 k 개에 드는 수) ÷ k

1 이면 하나도 놓치지 않은 것입니다. 진짜 답은 완전 탐색으로 구합니다. 근사 검색을 고를 때는 쿼리 여러 개로 재현율을 재 보고 정합니다.

해 볼 것. ① 처음 상태(쿼리 (0.7, 0.6), 칸 16 개, 살펴볼 칸 1 개, k = 5)에서 비교한 횟수는 16 + 20 = 36 이고, 완전 탐색보다 8.33배 적습니다. 재현율은 1 입니다. ② 쿼리를 (1.1, 0.8) 로 옮겨 보세요(숫자 칸에 넣어도 됩니다). 한 무리가 두 칸으로 나뉜 경계라서, 한 칸만 보면 재현율이 0.2(5 개 가운데 1 개)로 떨어집니다. ③ 프로브 수를 2 로 올리면 비교는 46 번으로 늘지만 재현율이 다시 1 이 됩니다. ④ 프로브 수를 16(전부)으로 올리면 재현율은 언제나 1 이지만, 비교는 316 번으로 완전 탐색(300)보다 많습니다. 중심 16 개를 더 쟀기 때문입니다.

6. 속도와 정확도의 트레이드오프

실험 상자의 작은 그래프는 프로브 수를 1 부터 c 까지 올릴 때의 (비교 횟수, 재현율)입니다. 쿼리 하나로는 운이 섞이므로 고정된 쿼리 50 개의 평균으로 그렸습니다. 칸을 더 볼수록 오른쪽(비교가 많음)과 위(재현율이 높음)로 갑니다. 처음 몇 칸에서 재현율이 빨리 오르고, 그 뒤로는 비교만 늡니다.

해 볼 것. ① 칸 16 개, k = 5 일 때 쿼리 50 개의 평균은 이렇습니다. 살펴볼 칸 1 개: 비교 41 번, 재현율 0.86. 2 개: 58 번, 0.98. 3 개: 70 번, 1. 완전 탐색의 4분의 1 도 안 되는 비교로 하나도 놓치지 않습니다. ② 칸을 32 개로 늘리면 한 칸이 작아져서, 1 개만 볼 때 재현율이 0.78 로 떨어집니다. 3 개를 보면 비교 66 번에 재현율 1 입니다.

이 그래프는 점이 잘 뭉친 2차원 장난감입니다. 진짜 자료에서는 같은 재현율을 얻으려고 더 많은 칸을 봐야 할 수 있습니다. 숫자는 자기 자료로 재 봐야 합니다.

근사 검색에는 손잡이가 몇 개 있고, 하나를 올리면 다른 것이 내려갑니다. 속도, 정확도(재현율), 메모리 셋을 맞바꿉니다.

손잡이올리면 좋아지는 것올리면 나빠지는 것
프로브 수(IVF)재현율속도
칸 수 c(IVF)한 칸이 작아져 칸 하나를 빨리 잰다같은 칸 수만 보면 재현율이 떨어진다. 중심을 재는 셈이 는다
점마다 잇는 이웃 수(HNSW)재현율메모리, 색인을 만드는 시간
찾을 때 들고 다니는 후보 수(HNSW)재현율속도
벡터 하나를 적는 바이트 수(PQ)거리의 정확도메모리

7. 근사 검색의 큰 갈래

갈래생각빨라지는 까닭치르는 값
역파일 색인(IVF)점들을 무리로 묶고, 가까운 무리만 연다대부분의 칸을 열지 않는다경계 근처를 놓친다. 자료가 크게 바뀌면 칸을 다시 나눈다
HNSW 그래프점마다 가까운 점 몇 개와 간선(edge)으로 잇고, 간선을 따라 쿼리 쪽으로 걸어간다몇 걸음 만에 가까운 곳에 닿는다간선을 저장하는 메모리, 색인을 만드는 시간
곱 양자화(PQ)벡터를 조각으로 자르고, 조각마다 가장 비슷한 대표의 번호만 적는다메모리가 작아지고, 거리를 표에서 찾아 더한다거리가 대강이 된다

HNSW 그래프(Hierarchical Navigable Small World). 점마다 가까운 점 몇 개와 간선으로 이어 둡니다. 쿼리가 오면 한 점에서 출발해, 지금 점과 이어진 이웃 가운데 쿼리에 더 가까운 쪽으로 옮겨 갑니다. 더 가까운 이웃이 없으면 멈춥니다. 모르는 동네에서 「저쪽이 더 가깝다」는 말을 따라 길을 찾는 것과 같습니다. 그런데 가까운 이웃끼리만 이어져 있으면 먼 곳까지 걸음이 많이 듭니다. 그래서 층을 여러 개 둡니다. 위층일수록 점이 적고 간선이 길어서 큰길처럼 멀리 뜁니다. 아래층으로 내려갈수록 점이 많고 간선이 짧아서 골목처럼 자세히 찾습니다. 비행기로 도시까지, 버스로 동네까지, 걸어서 집까지 가는 셈입니다. 논문은 이 덕분에 찾는 셈이 점 수의 로그에 비례해 늘어난다고 봅니다. 대신 간선을 모두 저장하므로 메모리가 더 들고, 색인을 만드는 데 시간이 걸립니다.

아래 실험은 작게 줄인 본보기입니다. 2차원 점 24개를 층 3개에 나눠 둡니다. 논문이 적은 대로, 점마다 들어갈 맨 위 층을 난수로 정하고 위층에 갈 확률은 지수로 줄어듭니다. 이 실험에서는 1/3 확률로 한 층씩 더 올라가게 했습니다. 그래서 층 1 이상에 있을 확률은 1/3, 층 2 는 1/9 이고, 고정 시드로 뽑으니 층 0 에 24개, 층 1 에 9개, 층 2 에 3개가 있습니다. 위층의 점은 아래층에도 모두 있습니다. 층마다 가장 가까운 점 3개와 간선으로 잇습니다. 진짜 HNSW 는 점을 하나씩 넣으면서 층을 쌓아 가지만, 이 실험은 점을 다 놓은 뒤 한 번에 이었습니다. 찾을 때는 지금 점 하나만 들고 다닙니다(6절 표의 「들고 다니는 후보 수」가 1 인 셈입니다).

회색 줄은 그 층의 간선, 흰 동그라미는 쿼리입니다. 파란 화살표는 지금 점에서 이웃을 보는 것이고, 옆의 숫자는 그 이웃에서 쿼리까지의 거리입니다. 초록 화살표와 굵은 초록 줄은 옮겨 간 길, 세로 초록 점선은 내려간 길, 초록 점은 지금 점입니다. 주황 점선 동그라미는 다 재 보면 가장 가까운 점이고, 답과 다를 때만 나옵니다. 그림의 아무 곳이나 누르면 그 자리가 쿼리가 됩니다.

해 볼 것. ① 처음 쿼리 (8, 2.5)에서 「다음」을 끝까지 누르면 13 걸음입니다. 층 2 에서 H 에서 P 로, 층 1 에서 P 에서 I 로, 층 0 에서 I 에서 K 로 옮기고 K(거리 0.79)에서 멈춥니다. 거리를 잰 횟수는 13번으로 점을 모두 재는 24번보다 적고, 답도 다 재 본 답과 같습니다. ② 「쿼리 (5.6, 2.6)」을 누르면 층 1 에서 N 으로 옮긴 뒤 층 0 에서 N(거리 1.41)에 멈춥니다. 잰 횟수는 9번입니다. 그런데 다 재 보면 가장 가까운 점은 X(거리 1.09)입니다. X 는 층 0 에만 있고 N 과 간선으로 이어져 있지 않습니다. N 의 이웃이 모두 N 보다 멀어서 X 까지 가지 못했습니다. 근사 검색이라 이렇게 놓칠 수 있습니다.

곱 양자화(PQ, product quantization). 벡터 하나를 조각 여러 개로 자릅니다. 예를 들어 1,024차원을 128차원씩 8 조각으로 자릅니다. 조각마다 대표 256 개를 미리 정해 둡니다(이것도 k-평균으로 만듭니다). 그리고 조각마다 가장 비슷한 대표의 번호만 적습니다. 번호 하나는 0~255 라서 1바이트입니다. 그러면 4,096바이트(1,024 × 4)이던 벡터가 8바이트가 됩니다. 물감 색을 「빨강 3번, 파랑 7번」처럼 색표의 번호로 부르는 것과 같습니다. 거리는 쿼리의 조각과 대표들 사이의 거리를 미리 표로 만들어 두고, 번호로 표를 찾아 더해서 구합니다. 원래 벡터 대신 대표로 재므로 거리가 대강이 됩니다. 그래서 줄여 적은 것으로 후보를 넉넉히 뽑은 뒤, 원래 벡터로 다시 재서 순위를 고치기도 합니다.

① 벡터 하나(8칸)를 2칸씩 조각 넷으로 자른다 0.9 0.1 0.4 0.8 0.2 0.3 0.7 0.6 조각 1조각 2조각 3조각 4 ② 조각마다 대표 4개 가운데 가장 가까운 것을 고른다 0 (1.0, 0.0)1 (0.5, 0.5)2 (0.0, 1.0)3 (0.2, 0.2) 0 (0.9, 0.9)1 (0.1, 0.1)2 (0.3, 0.9)3 (0.8, 0.2) 0 (0.6, 0.6)1 (0.1, 0.4)2 (0.9, 0.1)3 (0.5, 0.9) 0 (0.2, 0.8)1 (0.0, 0.3)2 (1.0, 1.0)3 (0.6, 0.5) 0 2 1 3 ③ 남는 것은 번호 넷(0, 2, 1, 3)뿐이다
지어낸 작은 예입니다. 8칸 벡터를 2칸씩 자르고, 조각마다 대표 4개(번호 0~3) 가운데 가장 가까운 것(초록)의 번호만 적습니다. 이 번호로 대표를 다시 꺼내면 (1.0, 0.0, 0.3, 0.9, 0.1, 0.4, 0.6, 0.5) 로 원래 벡터와 조금 다릅니다. 그래서 거리가 대강이 됩니다. 위 글의 예처럼 대표가 256개면 번호 하나가 1바이트입니다.

셋은 섞어 씁니다. 칸으로 나누고, 칸 안의 점을 줄여 적는 방법(IVF 와 PQ 를 합친 것)이 PQ 논문에 같이 나옵니다.

8. 벡터 DB 가 하는 일

일쉬운 말
저장벡터와 함께 원래 자료의 번호, 청크 글, 메타데이터(쓴 날, 쓴 사람, 문서 종류)를 같이 둔다
색인IVF, HNSW, PQ 같은 길을 만들어 두고 근사 검색을 한다. 설정으로 속도와 재현율을 고른다
메타데이터 필터링「이 사용자의 문서 가운데」, 「올해 쓴 것 가운데」처럼 조건을 걸고 찾는다. 남의 문서가 나오지 않게 막는 데도 쓴다
고치기 · 지우기자료가 바뀌면 벡터를 바꾸고, 지운 자료는 결과에 나오지 않게 한다. 색인에도 바로 반영해야 한다

필터링과 검색을 같이 하기는 생각보다 어렵습니다. 먼저 찾고 나중에 거르면, 가장 가까운 10 개를 찾았는데 조건에 맞는 것이 2 개뿐일 수 있습니다. 넉넉히 뽑아도 조건에 맞는 자료가 드물면 모자랍니다. 반대로 먼저 거르고 나중에 찾으면, 미리 만든 길이 잘 맞지 않습니다. 살펴본 칸에 조건에 맞는 점이 거의 없거나, 그래프에서 맞는 점끼리의 간선이 끊겨 있을 수 있습니다. 조건에 맞는 것이 아주 적으면 그 점들만 다 재 보는 편이 빠르기도 합니다. 벡터 DB 마다 이 둘을 섞는 방법이 다릅니다.

임베딩 모델을 바꾸면 전부 다시 만듭니다. 모델마다 벡터를 만드는 규칙이 다릅니다. 같은 글이라도 다른 모델의 벡터는 엉뚱한 자리에 놓입니다. 차원 수가 다르면 아예 잴 수 없고, 차원 수가 같아도 서로 다른 모델의 벡터끼리 잰 거리는 뜻이 없습니다. 그래서 모델을 바꾸면 저장한 자료를 모두 새 모델로 다시 벡터로 바꾸고, 색인도 다시 만듭니다. 같은 모델의 판이 바뀌어도 마찬가지입니다. 벡터 옆에 만든 모델의 이름과 판을 같이 적어 두면, 옛 벡터와 새 벡터가 섞이는 것을 막을 수 있습니다.

9. 차원의 저주: 차원이 높으면 생기는 일

차원이 아주 높으면, 무작위로 흩어진 점들 사이의 거리가 서로 비슷해집니다. 가장 가까운 점까지의 거리와 가장 먼 점까지의 거리가 거의 같아집니다. 그러면 「가장 가깝다」는 말의 뜻이 약해지고, 근사 검색이 경계에서 헷갈리기 쉬워집니다. Beyer 등(1999)이 이 현상을 다뤘습니다. 다행히 임베딩은 무작위가 아닙니다. 뜻이 비슷한 것끼리 뭉쳐 있어서 벡터 검색이 쓸모 있습니다. 다만 2차원 그림에서 얻은 느낌(칸이 깔끔하게 나뉜다, 경계 근처의 점이 적다)은 고차원에서 맞지 않을 수 있습니다.

10. 꼭 알아야 할 성질

성질쉬운 말
결과는 거리 재는 방식에 따라 다르다유클리드 거리는 바로 옆의 것, 코사인 유사도는 같은 방향의 것, 내적은 같은 방향이면서 긴 것을 고른다
길이를 1 로 맞추면 세 방식의 순위가 같다저장한 벡터의 길이가 모두 1 이면 셋 다 q · p 로 줄 세우는 셈이다
완전 탐색의 셈 = 벡터 수 × 차원늘 정확하지만, 자료가 10배면 시간도 10배
근사 검색은 놓칠 수 있다얼마나 놓치는지는 재현율로 재고, 설정으로 속도와 맞바꾼다
같은 모델로 만든 벡터끼리만 잴 수 있다모델이나 그 판을 바꾸면 모두 다시 만든다

어디에 쓰나

자주 묻는 것

벡터 검색이 뭔가요?

쿼리를 벡터로 바꾼 뒤, 저장해 둔 벡터들 가운데 가장 가까운 k 개를 찾는 일입니다. 뜻이 비슷하면 벡터가 가깝도록 임베딩 모델이 만들어 두었기 때문에, 뜻이 비슷한 자료를 찾는 데 씁니다.

kNN 과 ANN 은 무엇이 다른가요?

kNN 은 모든 벡터를 재서 정확히 가장 가까운 k 개를 찾습니다. ANN 은 미리 만든 색인으로 일부만 재서 거의 가장 가까운 k 개를 빨리 찾습니다. ANN 은 가끔 진짜 가까운 것을 놓치고, 얼마나 놓치는지는 재현율로 잽니다.

코사인 유사도, 내적, 유클리드 거리 가운데 무엇을 써야 하나요?

임베딩 모델의 설명서가 정해 준 방식을 씁니다. 모델이 벡터의 길이를 1 로 맞춰 내보낸다면 셋 중 무엇을 써도 순위가 같습니다.

벡터 DB 가 꼭 있어야 하나요?

아닙니다. 벡터가 수천~수만 개면 메모리에 두고 다 재 봐도 충분할 때가 많습니다. 자료가 많아 느려지거나, 필터링과 고치기·지우기를 많이 해야 할 때 벡터 DB 나 이미 쓰는 DB 의 벡터 기능을 씁니다.

임베딩 모델을 바꾸면 어떻게 하나요?

저장한 자료를 모두 새 모델로 다시 벡터로 바꾸고 색인도 다시 만들어야 합니다. 다른 모델이 만든 벡터끼리는 거리를 재도 뜻이 없습니다.

낱말

여기서 쓴 말책에서 부르는 말
가장 가까운 k 개 찾기k-최근접 이웃(k-nearest neighbors, kNN), 최근접 이웃 검색(nearest neighbor search)
모든 점을 다 재 보기완전 탐색(brute-force search, exhaustive search), 정확한 검색(exact search)
거의 가장 가까운 것을 빨리 찾기근사 최근접 이웃 검색(approximate nearest neighbor search, ANN)
미리 만들어 둔 길색인, 인덱스(index)
직선 거리유클리드 거리(Euclidean distance), L2 거리
길이를 1 로 맞추기정규화(normalization), L2 정규화
칸으로 나누기역파일 색인(inverted file index, IVF)
칸의 중심센트로이드(centroid)
어느 중심에 가장 가까운가로 나눈 칸보로노이 셀(Voronoi cell)
무리로 묶기군집화(clustering), k-평균(k-means)
살펴볼 칸 수프로브 수(number of probes). 라이브러리에 따라 nprobe
놓치지 않고 찾은 비율재현율(recall), recall@k
이웃 그래프HNSW(Hierarchical Navigable Small World) 그래프
줄여 적기곱 양자화(product quantization, PQ)
걸러 내기메타데이터 필터링(metadata filtering). 먼저 거르기는 전필터(pre-filtering), 나중에 거르기는 후필터(post-filtering)
차원이 높으면 거리가 비슷해짐차원의 저주(curse of dimensionality), 거리 집중(distance concentration)
벡터를 모아 두고 찾아 주는 DB벡터 데이터베이스(vector database)

출처

← 청킹키워드 검색과 하이브리드 →