카이제곱 검정: 범주로 센 자료 비교
치료를 받은 사람과 받지 않은 사람 가운데 나은 사람은 몇 명인가. 혈액형마다 몇 명인가. 이렇게 사람을 칸에 나눠 센 자료에서, 칸마다의 수가 「우연히 이 정도는 나온다」를 넘는지 따지는 방법입니다. 네 칸의 숫자를 직접 고쳐 보세요. 이 쪽의 자료는 모두 지어낸 것입니다.
한 줄 답. 카이제곱 검정은 범주형 자료(몇 명이 어느 칸에 들었나)를 다룹니다. 두 가지가 서로 관계없다고 가정했을 때 칸마다 기대되는 수(기대 도수, expected frequency)를 구하고, 실제로 센 수(관측 도수, observed frequency)가 그것에서 얼마나 벗어났는지를 모두 더한 값 χ² = Σ (관측 − 기대)² ÷ 기대 가 우연이라기에 너무 큰지 따집니다. 너무 크면(p값이 작으면) 「관계없다」는 가정을 받아들이기 어렵다고 봅니다.
숫자 칸을 고치거나 − + 단추를 눌러 보세요(칸마다 0 ~ 9999). 오른쪽 표는 「치료와 회복이 관계없다면」 칸마다 기대되는 수이고, 주황이 진할수록 그 칸이 χ² 에 많이 보탭니다. 왼쪽 아래 그림의 초록은 집단마다 나은 몫이고, 주황 점선은 전체에서 나은 몫입니다. 관계가 없다면 두 막대가 이 선에 닿습니다. 오른쪽 아래 그림의 주황 꼬리 넓이가 p값이고, 보라 점선이 5% 임계값(critical value)입니다. 이 쪽은 통계 개념을 설명할 뿐이고, 어떤 치료의 효과도 말하지 않습니다.
1. 언제 쓰나: 범주 × 범주, 평균이 아니라 개수
키나 혈압처럼 재는 값은 집단마다 평균을 비교합니다. 그런데 「나음 / 안 나음」, 「A형 / B형 / O형 / AB형」처럼 값이 몇 가지 이름 가운데 하나인 것은 평균을 낼 수 없습니다. 이런 값을 범주라고 부릅니다. 범주 자료는 칸마다 몇 명인지 셉니다. 사람을 두 가지 기준으로 나눠 센 표를 교차표(분할표)라고 하고, 위 실험의 2×2 표가 그것입니다.
| 자료의 모양 | 비교하는 것 | 쓰는 방법 |
|---|---|---|
| 재는 값, 두 집단 | 평균 | t 검정 |
| 재는 값, 셋 이상의 집단 | 평균 | 분산분석 |
| 범주 × 범주 | 칸마다의 개수(비율) | 카이제곱 독립성 검정(이 쪽) |
| 범주 하나 | 정해 둔 비율과의 차이 | 카이제곱 적합도 검정(8절) |
| 재는 값 × 재는 값 | 같이 움직이는 정도 | 상관과 회귀 |
카이제곱 검정은 묻는 것에 따라 두 가지로 씁니다. 계산하는 식은 같습니다.
| 독립성 검정 | 적합도 검정 | |
|---|---|---|
| 묻는 것 | 두 가지(치료, 회복)가 서로 관계있나 | 한 가지(혈액형)가 미리 정해 둔 비율과 맞나 |
| 표 | r 줄 × c 칸 | 한 줄(범주 k 개) |
| 기대 도수 | 줄 합 × 칸 합 ÷ 전체 | 전체 × 정해 둔 비율 |
| 자유도 | (r − 1) × (c − 1) | k − 1 |
| χ² | Σ (관측 − 기대)² ÷ 기대 로 같다 | |
집단마다 사람 수를 미리 정해 두고 모은 경우(치료 받는 사람 40명, 안 받는 사람 40명을 따로 모음)에는 「집단마다 나은 비율이 같은가」를 묻는다고 해서 동질성 검정이라고도 부릅니다. 계산은 독립성 검정과 똑같습니다.
2. 관계없다면 몇 명이 기대되나: 기대 도수
표의 가장자리(주변 합, marginal totals), 곧 줄 합(치료 받음 40, 안 받음 40), 칸 합(나음 50, 안 나음 30), 전체(80)는 그대로 둡니다. 그리고 「치료와 회복은 관계없다」고 가정해 봅니다. 그러면 치료를 받든 안 받든 나을 확률이 같아야 하고, 그 확률은 전체에서 나은 비율 50 ÷ 80 = 62.5% 로 추정합니다. 그래서 치료 받은 40명 가운데 기대되는 나은 사람은 40 × 62.5% = 25명입니다.
기대 도수 = 줄 합 × 칸 합 ÷ 전체
이 식은 확률 쪽의 독립일 때의 곱셈 규칙에서 나옵니다. 두 가지가 서로 관계없으면 「둘이 같이 일어날 확률 = 각자의 확률의 곱」입니다. P(치료 받음 그리고 나음) = 40/80 × 50/80 이고, 여기에 전체 80 을 곱하면 40 × 50 ÷ 80 = 25 입니다.
- 기대 도수는 소수여도 됩니다. 「평균적으로 이만큼」이라는 뜻이라서입니다.
- 기대 도수 표의 줄 합과 칸 합은 관측 도수의 것과 같습니다. 그래서 칸마다의 「관측 도수 − 기대 도수」를 한 줄이나 한 칸에서 더하면 언제나 0 입니다.
- 가정이 「관계없음」인 까닭은 그 쪽이 계산할 수 있는 하나의 기준을 주기 때문입니다. 「관계있음」은 얼마나 있는지에 따라 기대 도수가 끝없이 많습니다. 이렇게 비교할 기준으로 세운 가정을 귀무가설이라고 부릅니다.
3. 식이 만들어지는 과정
맨 위 실험의 표로 χ² = Σ (O − E)² ÷ E 를 한 조각씩 만듭니다. O 는 관측 도수(관측, observed), E 는 기대 도수(expected), Σ 는 「모든 칸에 대해 더한다」는 기호입니다. 「다음」을 누르면 식에 조각이 하나 붙고(주황 바탕), 그림이 그만큼 바뀌고, 아래에 까닭이 나옵니다.
그림과 숫자는 맨 위 실험의 표를 그대로 씁니다. 위에서 숫자를 고치면 여기도 바뀝니다. 왼쪽 정사각형에서 파란 세로선은 기대한 나눔(전체에서 나은 몫), 먹색 실선은 줄마다 실제로 나은 몫입니다.
- 기대 도수:
E = 줄 합 × 칸 합 ÷ N. N 은 전체 사람 수입니다. 넓이가 1 인 정사각형의 가로를 칸 합의 몫(나음 50/80, 안 나음 30/80)으로, 세로를 줄 합의 몫(받음 40/80, 안 받음 40/80)으로 나눕니다. 칸 하나의 넓이는 「줄의 몫 × 칸의 몫」이고, 관계없다면 그 칸에 들 확률입니다. 여기에 N 을 곱하면 기대 도수입니다. 받음·나음 칸은0.5 × 0.625 × 80 = 25입니다. - 벗어난 정도:
O − E. 칸마다+5, −5, −5, +5입니다. 정사각형의 먹색 실선(받음 줄은 30/40 = 75%, 안 받음 줄은 20/40 = 50%)이 파란 점선(62.5%)에서 벗어난 띠가 이 차이이고, 띠의 넓이에 N 을 곱하면 정확히 |O − E| 입니다. 그런데 넷을 더하면 0 입니다. 주변 합이 같아서 어느 칸이 많으면 같은 줄의 다른 칸이 그만큼 적기 때문입니다. 그냥 더해서는 벗어난 정도를 잴 수 없습니다. - 제곱하기:
(O − E)². 넷 모두 25 가 됩니다. 많은 쪽으로 벗어나든 적은 쪽으로 벗어나든 같이 세고, 서로 지워지지 않습니다. 분산을 만들 때 평균까지의 거리를 제곱한 것과 같은 까닭입니다. - 기대 도수로 나누기:
(O − E)² ÷ E.25 ÷ 25 = 1,25 ÷ 15 ≈ 1.67. 기대가 1,000명인 칸에서 5명 차이는 흔하지만, 기대가 15명인 칸에서 5명 차이는 놀랍습니다. 관측 도수는 우연만으로도 대략√E만큼 흔들리므로,(O − E) ÷ √E가 「흔들림의 몇 배만큼 벗어났나」이고 그 제곱이(O − E)² ÷ E입니다. 같은 차이 5 라도 기대가 작은 「안 나음」 칸이 더 크게 셉니다. - 모두 더하기:
χ² = Σ (O − E)² ÷ E.1 + 1.67 + 1 + 1.67 = 5.33. 표 전체가 「관계없음」에서 얼마나 벗어났는지를 숫자 하나로 적었습니다. 0 이면 기대와 똑같고, 클수록 많이 벗어났습니다. - 분포에 비교하기. 관계가 없어도 우연 때문에 χ² 는 0 이 아니게 나옵니다. 사람이 충분히 많으면, 관계가 없을 때의 χ² 는 대략 자유도
(r − 1) × (c − 1)인 카이제곱 분포를 따릅니다(여기서는 증명하지 않습니다. 5절). 2×2 표면 자유도 1 이고, 5.33 보다 오른쪽 넓이가 p값 0.021 입니다.
해 볼 것. ① 처음 값으로 「다음」을 눌러 가면 오른쪽 막대가 기대 도수 25, 15, 25, 15 → 차이 +5, −5, −5, +5 → 제곱 25 넷 → 1, 1.67, 1, 1.67 → 한 줄로 이어 붙인 5.33 이 됩니다. 넷째 단계에서 기대가 15 인 칸의 막대가 더 깁니다. ② 맨 위 실험에서 「관계없음」을 누르고 다시 보면, 두 줄의 실선이 파란 점선에 겹치고 둘째 단계부터 막대가 모두 0 입니다. χ² = 0, p = 1 입니다. ③ 「수가 적은 예」를 누르면 기대 도수가 5, 3, 5, 3 이고 차이는 ±2 입니다. 기대가 3 인 칸에서는 차이 2 가 4 ÷ 3 ≈ 1.33 으로 크게 셉니다.
4. 손으로 풀어 보기: 2×2 를 끝까지
맨 위 실험의 처음 값입니다. 치료 받은 40명 가운데 30명, 안 받은 40명 가운데 20명이 나았습니다(지어낸 자료).
| 칸 | 관측 도수 O | 기대 도수 E | O − E | (O − E)² | (O − E)² ÷ E |
|---|---|---|---|---|---|
| 받음·나음 | 30 | 40 × 50 ÷ 80 = 25 | +5 | 25 | 1.00 |
| 받음·안 나음 | 10 | 40 × 30 ÷ 80 = 15 | −5 | 25 | 1.67 |
| 안 받음·나음 | 20 | 40 × 50 ÷ 80 = 25 | −5 | 25 | 1.00 |
| 안 받음·안 나음 | 20 | 40 × 30 ÷ 80 = 15 | +5 | 25 | 1.67 |
| 합 | 80 | 80 | 0 | χ² = 5.33 |
- 주변 합. 줄 합 40, 40. 칸 합 50, 30. 전체 80.
- 기대 도수. 줄 합 × 칸 합 ÷ 80. 25, 15, 25, 15.
- χ².
1 + 1.667 + 1 + 1.667 = 5.333. - 자유도.
(2 − 1) × (2 − 1) = 1. - 기준과 비교하기. 자유도 1 인 카이제곱 분포에서 오른쪽 넓이가 5% 인 자리(임계값)는 3.84 입니다. 5.33 은 그보다 오른쪽이라 5% 수준에서 유의합니다. 정확한 오른쪽 넓이는 p = 0.021 입니다.
- 읽기. 「치료와 회복이 관계없다면, 이만큼 또는 더 크게 벗어난 표가 나올 확률은 약 2.1%」입니다.
- 크기. 나은 비율은 75% 와 50% 로 25%포인트 차이입니다. 크라메르 V 는
√(5.33 ÷ (80 × 1)) ≈ 0.26, 오즈비는(30 × 20) ÷ (10 × 20) = 3, 상대위험도는0.75 ÷ 0.5 = 1.5입니다(11절).
2×2 표에는 같은 값을 한 줄로 내는 지름길 식이 있습니다. 네 칸을 a b / c d 라 하면
χ² = N × (ad − bc)² ÷ ((a + b)(c + d)(a + c)(b + d))
처음 값이면 80 × (30 × 20 − 10 × 20)² ÷ (40 × 40 × 50 × 30) = 12,800,000 ÷ 2,400,000 = 5.33 입니다. ad − bc 가 0 이면(두 줄의 비율이 같으면) χ² 도 0 입니다.
5. 카이제곱 분포와 p값
카이제곱 분포는 평균 0, 표준편차 1 인 정규분포에서 서로 독립인 값 k 개를 뽑아 제곱해 더한 값의 분포입니다. k 를 자유도라고 부릅니다. 제곱의 합이라 0 보다 작을 수 없고, 오른쪽으로 꼬리가 깁니다. 평균은 k, 분산은 2k 입니다. 자유도가 크면 오른쪽으로 옮겨 가며 넓게 퍼지고 종 모양에 가까워집니다.
왜 이 분포에 비교하나: 관계가 없고 사람이 충분히 많으면, 칸마다의 (O − E) ÷ √E 는 대략 정규분포를 따릅니다. 다만 주변 합이 정해져 있어 칸들이 서로 묶여 있고, 실제로 따로 움직일 수 있는 것은 (r − 1) × (c − 1) 개입니다(6절). 그래서 그 제곱의 합 χ² 가 대략 자유도 (r − 1) × (c − 1) 인 카이제곱 분포를 따릅니다. 카이제곱 통계량과 이 근사는 피어슨의 1900년 논문(출처)에서 처음 나왔습니다. 그 논문은 적합도 검정을 다룹니다. 여기서는 증명하지 않습니다.
| 자유도 | 1 | 2 | 3 | 4 | 5 | 6 | 9 |
|---|---|---|---|---|---|---|---|
| 5% 임계값 | 3.84 | 5.99 | 7.81 | 9.49 | 11.07 | 12.59 | 16.92 |
위 숫자는 표를 외워 적은 것이 아니라 이 쪽의 실험이 곡선의 넓이에서 직접 셉니다. 넓이는 정규화한 불완전 감마 함수로 계산하고, 파이썬의 scipy 와 비교한 차이는 10⁻¹⁴ 보다 작습니다.
오른쪽 꼬리만 봅니다. χ² 는 벗어남의 제곱을 더한 값이라 어느 쪽으로 벗어나든 커집니다. 「기대에서 많이 벗어났다」는 증거는 오른쪽 꼬리에만 있으므로, p값은 지금 χ² 보다 오른쪽의 넓이 하나입니다. 그 대신 카이제곱 검정은 어느 쪽으로 벗어났는지 말해 주지 않습니다. 방향은 표(비율 막대)를 보고 읽습니다.
같은 χ² 라도 자유도에 따라 뜻이 다릅니다. χ² = 5.33 은 자유도 1 에서 p = 0.021 이지만, 자유도 4 에서는 p = 0.255, 자유도 9 에서는 p = 0.804 입니다. 칸이 많으면 더하는 항이 많아 우연만으로도 χ² 가 커지기 때문입니다.
이렇게 읽으면 틀린다. ① 「p = 0.021 이니 치료와 회복이 관계없을 확률이 2.1%」: 틀립니다. p값은 「관계가 없다면 이만큼 벗어난 표가 나올 확률」이지, 가정이 맞을 확률이 아닙니다. 가정이 맞을 확률을 말하려면 베이즈 정리처럼 사전 확률이 있어야 합니다. ② 「p = 0.3 이니 관계없음이 증명됐다」: 틀립니다. 증거가 모자랄 뿐입니다. 사람이 적으면 실제로 있는 차이도 놓칩니다(검정력). ③ 「p 가 아주 작으니 관계가 아주 크다」: 틀립니다(11절). ④ 「관계가 있으니 치료가 회복의 원인이다」: 무작위로 나누지 않은 자료라면 틀릴 수 있습니다. 건강한 사람이 치료를 더 많이 받았을 수도 있습니다(교란, 무작위 배정). 더 자세한 것은 가설검정과 p값 쪽에 있습니다.
해 볼 것. (맨 위 실험) ① 처음 값은 χ² = 5.33, p = 0.021 이고 곡선에서 먹색 선이 보라 임계값(3.84)의 오른쪽에 있습니다. ② 받음·나음을 28, 받음·안 나음을 12 로 바꿔 두 사람만 옮기면 χ² = 3.33, p = 0.068 로 임계값 왼쪽으로 넘어갑니다. 5% 는 편의로 정한 선이라, 선 바로 양쪽의 결과는 사실상 비슷한 증거입니다. ③ 「관계없음」은 두 집단 모두 75% 가 나아 χ² = 0, p = 1 입니다.
6. 더 큰 표와 자유도
표가 r 줄 × c 칸이어도 계산은 같습니다. 칸마다 기대 도수 = 줄 합 × 칸 합 ÷ 전체 를 구하고, 모든 칸의 (O − E)² ÷ E 를 더합니다. 달라지는 것은 자유도 (r − 1) × (c − 1) 뿐입니다. 아래는 지어낸 나이대 × 혈압 단계 표입니다.
관측 도수(지어낸 자료)
기대 도수(위)와 조정된 잔차(아래). 파랑 = 기대보다 많음, 주황 = 적음
줄과 칸의 수를 2 ~ 4 에서 고르고, 숫자를 고쳐 보세요. 줄이나 칸을 줄였다가 다시 늘려도 고친 숫자는 남아 있습니다. 「처음 값」은 3 × 3 과 처음 숫자로 돌아갑니다.
해 볼 것. ① 처음 3 × 3 은 χ² = 15.12, 자유도 4, p = 0.004, 크라메르 V = 0.21 입니다. ② 2 × 2 로 줄이면(20대·40대 × 정상·주의) χ² = 2.47, p = 0.116 입니다. 기대에서 크게 벗어났던 60대 줄과 높음 칸이 빠졌기 때문입니다. ③ 4 × 4 로 늘리면 χ² = 33.78, 자유도 9, p < 0.001 이고, 80대·아주 높음 칸의 기대 도수가 4.76 이라 주의 문구가 나옵니다.
자유도: 주변 합을 정해 두면 몇 칸을 마음대로 정할 수 있나
줄 합과 칸 합을 정해 두고 칸을 하나씩 채운다고 해 봅시다. 한 줄에서 앞의 칸들을 채우면 마지막 칸은 「줄 합 − 나머지」로 저절로 정해집니다. 맨 아래 줄도 마찬가지로 칸 합에서 정해집니다. 그래서 마음대로 정할 수 있는 칸은 마지막 줄과 마지막 칸을 뺀 (r − 1) × (c − 1) 개입니다. 이것이 자유도입니다. 아래 표는 위 실험의 표와 같은 숫자를 씁니다.
초록 칸은 직접 정한 칸, 파란 칸은 줄 합이나 칸 합에서 저절로 정해진 칸, ? 는 아직 모르는 칸입니다. 처음 3 × 3 이면 「한 칸 채우기」를 두 번 누르면 첫 줄의 셋째 칸이 줄 합에서 정해지고, 네 번째에 모든 칸이 찹니다. 4 × 4 는 9번, 2 × 2 는 1번입니다.
적합도 검정(8절)도 같습니다. 범주가 k 개이고 전체가 정해져 있으면 k − 1 개만 마음대로 정할 수 있어 자유도는 k − 1 입니다.
7. 어느 칸이 벗어났나: 잔차
χ² 하나는 「표 어딘가가 기대에서 벗어났다」만 말합니다. 표가 크면 어느 칸이 벗어났는지 따로 봐야 합니다. 칸마다의 (O − E)² ÷ E 를 보면 χ² 가 어디서 왔는지 보이고, 부호를 살린 (O − E) ÷ √E 를 피어슨 잔차라고 부릅니다.
6절 실험의 둘째 표에서 기대 도수 밑에 있는 숫자는 이것을 조금 고친 조정된 잔차입니다.
조정된 잔차 = (O − E) ÷ √(E × (1 − 줄 합 ÷ N) × (1 − 칸 합 ÷ N))
관계가 없다면 칸마다 대략 표준정규분포를 따르므로, 크기가 1.96(어림 2)을 넘으면 그 칸이 기대보다 눈에 띄게 많거나 적다고 봅니다. 처음 3 × 3 에서는 20대·정상(+3.23)과 60대·높음(+2.46)이 기대보다 많고, 60대·정상(−3.28)과 20대·높음(−2.04)이 적습니다. 40대 줄은 모두 0 근처라 전체의 비율과 비슷합니다. 2×2 표에서는 네 칸의 조정된 잔차 크기가 모두 √χ² 로 같습니다(처음 값이면 √5.33 ≈ 2.31).
주의할 것: 칸이 많으면 칸마다 따로 5% 로 따질 때 우연히 선을 넘는 칸이 나오기 쉽습니다. 잔차는 「어디를 더 볼지」 고르는 데 쓰고, 칸마다 결론을 내려면 다중 비교를 생각합니다.
8. 적합도 검정: 한 줄짜리 표
범주가 하나뿐이고, 비율을 미리 정해 둔 경우입니다. 「관측 도수가 그 비율과 맞나」를 묻습니다. 기대 도수는 전체 × 정해 둔 비율, 자유도는 범주 수 − 1 이고, χ² 는 같은 식입니다.
관측 도수와 기대 비율을 고쳐 보세요. 기대 비율은 몫만 맞으면 됩니다(40, 30, 20, 10 과 4, 3, 2, 1 은 같습니다). 합이 100% 가 되게 나눠 맞춘 값이 기대 도수 옆 괄호에 나옵니다.
해 볼 것. ① 혈액형 예는 지어낸 비율 40 : 30 : 20 : 10 과 200명입니다. 기대 도수 80, 60, 40, 20, χ² = 1.25 + 1.67 + 0.63 + 1.25 = 4.79, 자유도 3, p = 0.188 입니다. ② 관측 도수를 모두 두 배(180, 100, 90, 30)로 하면 비율은 그대로인데 χ² = 9.58, p = 0.022 가 됩니다. 사람이 많을수록 같은 어긋남도 우연으로 보기 어려워집니다. ③ 주사위 예는 60번 던져 1 ~ 6 이 5, 8, 9, 8, 10, 20 번 나왔습니다. χ² = 13.4, 자유도 5, p = 0.020 이고, 그 가운데 10 이 6 의 칸 하나에서 나왔습니다. 6 을 10 으로 고치면 χ² = 2.08, p = 0.838 입니다.
9. 수가 적을 때: 피셔의 정확 검정
카이제곱 분포는 사람이 많을 때 맞는 근사입니다. 기대 도수가 작은 칸이 있으면 χ² 의 실제 분포가 곡선과 어긋나 p값이 틀어집니다. 흔히 쓰는 어림 규칙은 「모든 칸의 기대 도수가 5 이상」이고, 조금 느슨하게는 「5 보다 작은 칸이 20% 이하이고 1 보다 작은 칸이 없을 것」입니다. 이 쪽의 실험은 5 보다 작은 칸이 하나라도 있으면 주의 문구를 띄웁니다.
2×2 표에서는 피셔의 정확 검정을 씁니다. 근사 대신 직접 셉니다. 주변 합을 그대로 둔 채 나올 수 있는 모든 표를 늘어놓고, 관계가 없을 때 각 표가 나올 확률을 구합니다. 2×2 에서는 왼쪽 위 칸 a 하나만 정하면 나머지가 정해지므로, 확률은 a 의 분포(초기하 분포)입니다.
P(a) = C(첫 칸 합, a) × C(N − 첫 칸 합, 첫 줄 합 − a) ÷ C(N, 첫 줄 합)
C(n, k) 는 n 명 가운데 k 명을 고르는 가짓수입니다. 그다음 지금 표보다 확률이 같거나 작은 표의 확률을 모두 더하면 양측 p값입니다.
관측 도수(지어낸 자료)
해 볼 것. ① 처음 표(치료 받음 8명 가운데 7명, 안 받음 8명 가운데 3명이 나음)는 주변 합이 8, 10, 16 이라 a 는 2 ~ 8 이 될 수 있고, 확률은 0.003, 0.056, 0.245, 0.392, 0.245, 0.056, 0.003 입니다. 지금 표(a = 7)는 0.056 이고, 이보다 작거나 같은 a = 2, 3, 7, 8 을 더하면 p = 0.119 입니다. 카이제곱으로는 p = 0.039 라 5% 아래였는데, 정확 검정으로는 위입니다. 기대 도수가 3 인 칸이 둘이라 근사가 맞지 않은 것입니다. ② 모든 칸을 두 배(14, 2, 6, 10)로 하면 기대 도수가 모두 6 이상이 되어 주의 문구가 사라지고, 카이제곱 p = 0.003, 피셔 p = 0.009 로 둘 다 0.05 보다 작아집니다.
예이츠의 연속성 보정
2×2 표에서 근사를 조금 낫게 하려고 칸마다 |O − E| 를 0.5 씩 줄여 계산하는 보정입니다. 파이썬 scipy 의 chi2_contingency 와 R 의 chisq.test 는 2×2 표에서 이 보정을 기본으로 합니다. 그래서 처음 표(30, 10, 20, 20)를 넣으면 이 쪽의 5.33 이 아니라 4.32(p = 0.038)가 나옵니다. 보정을 끄면(correction=False) 이 쪽과 같은 값입니다. 보정한 값은 지나치게 조심스럽다(p 가 커진다)는 지적도 있어, 수가 적으면 보정보다 정확 검정을 보는 편이 깔끔합니다.
10. 가정: 언제 쓰면 안 되나
| 가정 | 뜻 | 어기는 예 |
|---|---|---|
| 관측이 서로 독립 | 한 사람의 결과가 다른 사람의 결과에 묶여 있지 않다 | 같은 사람을 치료 전후에 두 번 셈(12절), 한 집 식구를 함께 셈 |
| 한 사람은 한 칸에만 | 칸들이 서로 겹치지 않고, 모두 합하면 전체 사람 수다 | 여러 개를 고를 수 있는 설문의 답을 그대로 표에 넣음 |
| 기대 도수가 충분히 큼 | 카이제곱 분포 근사가 맞으려면 칸마다 기대 도수가 어느 정도 있어야 한다 | 기대 도수가 5 보다 작은 칸(9절) |
| 표에는 관측 도수를 넣는다 | χ² 는 사람 수에 비례해 커진다 | 75%, 25% 처럼 퍼센트나 평균을 넣음. 사람이 100명인 것처럼 계산된다 |
하나 더: 카이제곱 검정은 범주의 순서를 모릅니다. 혈압 단계처럼 순서가 있는 범주라도 칸의 차례를 바꿔도 χ² 가 같습니다. 「나이가 많을수록 높은 단계가 많다」 같은 경향을 묻는다면 순서를 쓰는 검정이 그 경향을 더 잘 잡습니다.
11. 유의하다 ≠ 관계가 크다: 효과 크기
χ² 는 비율이 같아도 사람 수에 비례해 커집니다. 처음 표의 모든 칸을 10배(300, 100, 200, 200) 하면 나은 비율은 그대로 75% 와 50% 인데 χ² 는 53.33, p 는 0.001 보다 훨씬 작아집니다. 거꾸로 사람이 아주 많으면 아주 작은 차이도 「유의」하게 나옵니다. 맨 위 실험의 「큰 집단, 작은 차이」는 10,000명에서 나은 비율이 52% 와 48% 입니다. χ² = 16, p < 0.001 이지만 차이는 4%포인트뿐입니다.
그래서 p값과 따로 관계의 크기(효과 크기)를 적습니다.
- 크라메르 V =
√(χ² ÷ (N × (min(r, c) − 1))). 사람 수로 나눠 놓아서, 0 이면 관계없음, 1 이면 완전히 갈림입니다. 처음 값 0.26, 10배 해도 0.26, 「큰 집단, 작은 차이」는 0.04 입니다. 2×2 에서는 파이 계수(φ)의 크기와 같습니다. - 비율의 차이, 상대위험도, 오즈비(2×2). 처음 값은 25%포인트, 상대위험도 1.5, 오즈비 3 입니다. 「큰 집단, 작은 차이」는 4%포인트, 상대위험도 1.08, 오즈비 1.17 입니다. 뜻과 신뢰구간은 오즈비와 상대위험도 쪽에 있습니다.
결과는 이렇게 같이 적는 일이 많습니다: χ²(1, N = 80) = 5.33, p = 0.021, V = 0.26. 괄호 안은 자유도와 사람 수입니다.
12. 같은 사람을 두 번 세면: 맥니마 검정
같은 50명에게 치료 전과 후에 증상이 있는지 물었다고 합시다. 이 자료를 「전 / 후 × 있음 / 없음」 표로 만들어 카이제곱 검정을 하면 안 됩니다. 한 사람이 두 번 세어져 관측이 서로 독립이 아니기 때문입니다. 대신 표를 「전에 있음·없음 × 후에 있음·없음」으로 만들고, 전과 후가 달라진 사람만 봅니다. 있음 → 없음이 b명, 없음 → 있음이 c명이면 (b − c)² ÷ (b + c) 를 자유도 1 인 카이제곱 분포와 비교합니다. 이것이 맥니마 검정입니다. 지어낸 예로 b = 15, c = 5 이면 (15 − 5)² ÷ 20 = 5.0, p = 0.025 입니다. 전후가 같은 사람(계속 있음, 계속 없음)은 바뀜에 대해 아무것도 말해 주지 않아 셈에서 빠집니다. b + c 가 작으면 이항 분포로 정확히 셉니다.
13. 꼭 알아야 할 성질
| 성질 | 쉬운 말 |
|---|---|
| χ² ≥ 0 | 0 이면 관측 도수가 기대 도수와 똑같다. 벗어나면 어느 쪽이든 커진다. 방향은 말해 주지 않는다 |
| 사람 수에 비례 | 비율이 같은 채로 모든 칸을 k 배 하면 χ² 도 k 배. 그래서 p값만으로는 관계의 크기를 알 수 없다 |
| 줄과 칸을 바꿔도 같다 | 표를 뒤집어도, 줄이나 칸의 순서를 바꿔도 χ² 는 같다. 무엇이 원인인지, 순서에 따른 경향은 말해 주지 않는다 |
| 자유도 (r − 1)(c − 1) | 주변 합을 정하면 마음대로 정할 수 있는 칸의 수. 관계가 없을 때 χ² 의 평균이 대략 자유도다 |
| 근사다 | 기대 도수가 작으면 카이제곱 분포와 어긋난다. 2×2 는 피셔의 정확 검정으로 직접 센다 |
어디에 쓰나
- 두 집단의 비율 비교하기. 임상시험이나 관찰 연구에서 부작용이 생긴 사람의 비율, 다시 입원한 사람의 비율처럼 「있음 / 없음」으로 끝나는 결과를 집단 사이에 비교합니다. 결과는 효과 크기와 함께 적습니다.
- 유전의 비율 확인. 교배 실험에서 나온 개체 수가 이론이 말하는 비율(예: 3 : 1)과 맞는지 적합도 검정으로 봅니다.
- 설문과 역학 자료. 나이대 × 응답, 지역 × 질병의 유무처럼 범주 둘의 관계를 처음 훑어볼 때 씁니다. 관계가 보이면 잔차로 어느 칸인지 보고, 교란을 따로 따집니다.
- 웹 서비스의 A/B 시험. A안과 B안을 본 사람 가운데 가입한 사람의 수를 2×2 표로 놓고 비교합니다. 결과를 보며 여러 번 들여다보다가 유의할 때 멈추면 1종 오류가 늘어납니다(다중 비교).
- 난수와 추첨 점검. 난수기나 추첨기가 범주마다 고르게 나오는지 적합도 검정으로 봅니다.
# 파이썬 scipy
from scipy.stats import chi2_contingency, fisher_exact, chisquare
table = [[30, 10], [20, 20]]
chi2_contingency(table, correction=False) # χ² 5.33, p 0.021, 자유도 1, 기대 도수 [[25, 15], [25, 15]]
chi2_contingency(table) # 2×2 의 기본값은 예이츠 보정: χ² 4.32, p 0.038
fisher_exact(table) # 오즈비 3.0, 양측 p 0.037
chisquare([90, 50, 45, 15], f_exp=[80, 60, 40, 20]) # 적합도: χ² 4.79, p 0.188
자주 묻는 것
카이제곱 검정은 언제 쓰나요?
사람이나 물건을 범주로 나눠 센 자료(몇 명이 어느 칸에 들었나)를 비교할 때 씁니다. 두 가지가 서로 관계있는지 볼 때는 독립성 검정을, 한 가지가 미리 정해 둔 비율과 맞는지 볼 때는 적합도 검정을 씁니다. 키나 혈압처럼 재는 값의 평균을 비교할 때는 t 검정이나 분산분석을 씁니다.
p값이 0.03 이면 관계가 없을 확률이 3% 인가요?
아닙니다. p값은 관계가 없다고 가정했을 때 지금만큼 또는 더 크게 벗어난 표가 나올 확률입니다. 가정이 맞을 확률이 아닙니다. 관계가 없을 확률을 말하려면 사전 확률을 넣는 베이즈 방식이 필요합니다.
기대 도수가 5 보다 작은 칸이 있으면 어떻게 하나요?
카이제곱 분포로 근사한 p값이 맞지 않을 수 있습니다. 2×2 표라면 피셔의 정확 검정을 씁니다. 더 큰 표라면 뜻이 비슷한 범주를 합치거나, 정확 검정이나 모의실험으로 p값을 구합니다.
퍼센트를 표에 넣어도 되나요?
안 됩니다. 관측 도수(사람 수)를 넣습니다. 카이제곱 값은 같은 비율이라도 사람 수에 비례해 커지므로, 퍼센트를 넣으면 사람이 100명인 것처럼 계산되어 p값이 틀립니다.
같은 사람을 치료 전후에 두 번 세었으면요?
한 사람의 두 관측이 서로 묶여 있어 보통의 카이제곱 검정을 쓰면 안 됩니다. 전과 후가 달라진 사람만 세어 비교하는 맥니마 검정을 씁니다.
낱말
| 여기서 쓴 말 | 책에서 부르는 말 |
|---|---|
| 몇 가지 이름 가운데 하나인 값 | 범주형 변수(categorical variable). 순서가 없으면 명목(nominal), 있으면 순서(ordinal) |
| 두 기준으로 나눠 센 표 | 교차표, 분할표(contingency table, cross-tabulation) |
| 센 수 O | 관측 도수(observed frequency) |
| 관계없다면 기대되는 수 E | 기대 도수(expected frequency) |
| 줄 합, 칸 합, 전체 | 주변 합(marginal totals), 총합(grand total, N) |
| 관계없음 | 독립(independence) |
| 두 가지가 관계있나 / 집단마다 비율이 같은가 / 정해 둔 비율과 맞나 | 독립성 검정(test of independence) / 동질성 검정(test of homogeneity) / 적합도 검정(goodness-of-fit test) |
| 비교할 기준으로 세운 「관계없다」는 가정 | 귀무가설(null hypothesis, H₀) |
| 벗어남을 모두 더한 값 | 피어슨 카이제곱 통계량(Pearson's chi-squared statistic, χ²) |
| 마음대로 정할 수 있는 칸의 수 | 자유도(degrees of freedom, df) |
| 5% 기준값 | 임계값(critical value). 5% 는 유의수준(significance level, α) |
| 오른쪽 꼬리 넓이 | p값(p-value) |
| 칸이 벗어난 정도 | 잔차(residual). 피어슨 잔차(Pearson residual), 조정된 잔차(adjusted standardized residual) |
| 관계의 크기 | 효과 크기(effect size). 크라메르 V(Cramér's V), 파이 계수(phi coefficient, φ) |
| 주변 합을 두고 모든 표를 직접 세기 | 피셔의 정확 검정(Fisher's exact test). 그 확률은 초기하 분포(hypergeometric distribution) |
| |O − E| 를 0.5 씩 줄이는 보정 | 예이츠의 연속성 보정(Yates' continuity correction) |
| 같은 사람을 두 번 센 자료 | 짝지은 자료(paired data). 맥니마 검정(McNemar's test) |
| 카이제곱 분포의 넓이를 셀 때 쓰는 함수 | 정규화한 불완전 감마 함수(regularized incomplete gamma function) |
출처
- Karl Pearson, On the criterion that a given system of deviations from the probable in the case of a correlated system of variables is such that it can be reasonably supposed to have arisen from random sampling, Philosophical Magazine (1900). 카이제곱 검정을 처음 내놓은 논문.
- NIST/SEMATECH e-Handbook of Statistical Methods: 1.3.5.15 Chi-Square Goodness-of-Fit Test, 1.3.6.6.6 Chi-Square Distribution.
- NIST DLMF: §8.2 불완전 감마 함수의 정의, §8.7 급수, §8.9 연분수. 이 쪽의 실험이 카이제곱 분포의 넓이를 셀 때 쓴 식.
- scipy 문서: chi2_contingency(2×2 의 예이츠 보정 기본값), fisher_exact, chisquare.
- R 문서: chisq.test(2×2 의 연속성 보정 기본값).
- Quinn McNemar, Note on the sampling error of the difference between correlated proportions or percentages, Psychometrika. 맥니마 검정.