읽는 순서

다 읽을 필요도, 교과서 차례로 읽을 필요도 없습니다. 하려는 일에 가까운 줄을 골라 따라가면 됩니다. 읽다가 막히면 맨 아래 표에서 돌아갈 곳을 찾습니다.

LLM 서비스를 만들 때

검색으로 자료를 찾아 LLM 에 넣어 주는 서비스를 만들 때 필요한 줄입니다. 수학은 벡터와 내적이면 됩니다.

  1. n차원 벡터
  2. 내적
  3. 임베딩
  4. 벡터 검색
  5. RAG
  6. 청킹
  7. 키워드 검색과 하이브리드
  8. 검색 평가
  9. AI 에이전트

LLM 이 글을 쓰는 원리

글이 토큰으로 잘려 들어가서 다음 토큰이 뽑혀 나오기까지입니다.

  1. 토큰화
  2. 임베딩
  3. 어텐션
  4. 트랜스포머와 LLM
  5. 인코더와 디코더: 트랜스포머의 세 갈래
  6. 임베딩 모델: 문장을 벡터 하나로
  7. LLM 은 어떻게 학습하나
  8. 소프트맥스와 샘플링
  9. 컨텍스트 윈도우와 KV 캐시
  10. 구조화된 출력
  11. 미세 조정과 LoRA
  12. 환각과 LLM 평가

모델이 배우는 원리

틀린 정도를 재고, 그것을 줄이는 쪽으로 가중치를 조금씩 고치는 과정입니다.

  1. 함수와 그래프
  2. 미분과 연쇄 법칙
  3. 편미분과 그래디언트
  4. 신경망
  5. 역전파
  6. 경사 하강법
  7. 과적합과 일반화
  8. 정규화와 표준화

확률로 답하는 모델

모델의 답은 확률입니다. 확률을 읽는 법과 손실을 재는 법입니다.

  1. 확률과 베이즈 정리
  2. 정규분포
  3. 엔트로피와 교차 엔트로피
  4. 로지스틱 회귀
  5. 소프트맥스와 샘플링

선형대수 처음부터

벡터에서 특잇값 분해까지 교과서 차례입니다.

  1. 벡터
  2. n차원 벡터
  3. 일차결합과 생성
  4. 내적
  5. 외적
  6. 행렬 기초
  7. 행렬 곱셈
  8. 텐서와 모양: 축, shape, 브로드캐스팅
  9. 선형변환
  10. 행렬식
  11. 역행렬
  12. 연립방정식과 소거법
  13. 크래머 공식
  14. 랭크
  15. 벡터공간과 부분공간
  16. 기저와 좌표 바꾸기
  17. 고윳값과 고유벡터
  18. 직교행렬과 내적공간
  19. 정사영과 최소제곱
  20. 특잇값 분해(SVD)

미적분 처음부터

함수에서 시작해 기울기, 넓이, 입력이 여럿일 때까지입니다.

  1. 함수와 그래프
  2. 극한과 연속
  3. 미분과 연쇄 법칙
  4. 적분
  5. 편미분과 그래디언트
  6. 테일러 근사
  7. 야코비안과 헤시안

그림과 그 밖의 학습 방식

그림을 읽는 신경망, 그림을 만드는 모델, 보상으로 배우는 방식입니다.

  1. 합성곱과 CNN
  2. 확산 모델
  3. 강화학습
  4. 주성분 분석(PCA)

통계 처음부터

자료를 요약하는 법에서 검정과 실험 설계까지입니다.

  1. 기술통계
  2. 표본과 표집분포, 표준오차
  3. 신뢰구간
  4. 가설검정과 p값
  5. 1종·2종 오류와 검정력
  6. t 검정
  7. 분산분석(ANOVA)
  8. 카이제곱 검정
  9. 비모수 검정
  10. 상관과 회귀
  11. 다중 비교
  12. 위험, 상대위험도, 오즈비
  13. 생존 분석
  14. 진단 검사와 ROC 곡선
  15. 표본 크기 계산
  16. 무작위 배정과 대조군
  17. 블록 설계
  18. 요인 설계와 교호작용
  19. 반복 측정과 교차 설계
  20. 교란과 편향
  21. 임상시험 설계

딥러닝이 학습되지 않을 때

학습이 안 될 때 하나씩 짚어 볼 것들입니다.

  1. 학습 루프: 한 스텝, 한 에폭
  2. 활성화 함수
  3. 기울기 소실과 폭발
  4. 가중치 초기화
  5. 배치 정규화와 레이어 정규화
  6. 잔차 연결(ResNet)
  7. 학습률 스케줄
  8. 배치 크기와 기울기 누적
  9. 드롭아웃
  10. 가중치 감쇠와 L1·L2 규제
  11. 조기 종료와 학습 곡선 읽기
  12. 자료 나누기와 데이터 누수
  13. 혼동 행렬, 정밀도·재현율·F1

그림을 다루는 모델

합성곱에서 탐지, 분할, 비전 트랜스포머를 거쳐 비디오와 3D 까지입니다.

  1. 합성곱과 CNN
  2. 풀링과 수용 영역
  3. CNN 구조 읽기
  4. 배치 정규화와 레이어 정규화
  5. 잔차 연결(ResNet)
  6. 데이터 증강
  7. 전이 학습과 미세 조정
  8. 객체 탐지
  9. 탐지기의 구조: R-CNN 계열과 YOLO
  10. 영상 분할
  11. 비전 트랜스포머(ViT)
  12. 자기지도 학습: 라벨 없이 표현 배우기
  13. 메트릭 러닝: 거리를 학습하기
  14. 멀티모달 학습: CLIP 이 그림과 글을 한 공간에 놓는 법
  15. 비디오 분류: 시간 축을 더한 합성곱
  16. 3D 비전: 복셀, 포인트 클라우드, NeRF
  17. 정합: 강체에서 비강체까지

막히면 돌아갈 곳

오른쪽 주제를 먼저 보면 왼쪽이 쉬워집니다.

이 주제가 어렵다면먼저 볼 것
임베딩n차원 벡터, 내적
벡터 검색내적, n차원 벡터
어텐션내적, 행렬 곱셈, 소프트맥스와 샘플링
트랜스포머와 LLM어텐션, 신경망, 엔트로피와 교차 엔트로피
미세 조정과 LoRA랭크, 특잇값 분해(SVD), 행렬 곱셈
역전파미분과 연쇄 법칙, 편미분과 그래디언트
경사 하강법편미분과 그래디언트, 야코비안과 헤시안
신경망행렬 기초, 함수와 그래프
엔트로피와 교차 엔트로피함수와 그래프, 확률과 베이즈 정리
로지스틱 회귀엔트로피와 교차 엔트로피, 편미분과 그래디언트
정규화와 표준화정규분포, 주성분 분석(PCA)
주성분 분석(PCA)고윳값과 고유벡터, 정사영과 최소제곱
확산 모델정규분포, 신경망
정사영과 최소제곱내적, 기저와 좌표 바꾸기
야코비안과 헤시안편미분과 그래디언트, 고윳값과 고유벡터, 행렬식