카이스퀘어 테스트(Pearson's Chi-square test)

https://statsandr.com/blog/chi-square-test-of-independence-by-hand/

다음의 경우에 사용됨

• 독립성검정 : 두 요인 간에 관계 가 있는지
• 적합성검정 : 관측결과가 특정한 분포 로부터의 관측값인지
• 동질성검정 : 구분된 여러 집단이 동일한 분포 를 하는지

$$\chi^2= \sum \frac{(E-O)^2}{E}$$

where

• $E$ : 기대값
• $O$ : 관측값

자유도 = 변수에 속한 집단의 수 (=category 또는 class의 수) - 1

---

독립성검정

다음의 예를 통해 쉽게 알 수 있다.

다음과 같은 통계자료를 볼 때 학력 과 결혼생활의 행복 이 관련이 있는가? (두 요인 간의 관련성 체크)

 

위와 같은 질문에 대한 답을 "독립성검정"이 제공한다. (독립적이라면 관련이 없는 것이 됨.)

	초등학교 졸업	중학교 졸업	고등학교 졸업	대학교 졸업	계
행복함	72 (53.435) $\chi^2 = 6.450$	132 (96.878) $\chi^2 =12.733$	266 (284.988) $\chi^2 =1.265$	123 (157.699) $\chi^2 =7.635$	593
불행함	51 (69.565) $\chi^2 =4.954$	91 (126.122) $\chi^2 =9.780$	390 (371.012) $\chi^2 =0.972$	240 (371.012) $\chi^2 =5.865$	772
계	123	223	656	363	1365

• 위의 표에서 가로 안이 두 요소간의 관계가 독립인 경우의 기대값이고, 가로 밖의 숫자는 측정치임.

 

$\chi^2$의 총합은 49.65 이며, DoF는 $(4-1)\times(2-1)=3$임.

• 귀무 가설 : 학력과 결혼생활의 행복은 관계없다.(독립이다.)
• 대립 가설 : 학력과 결혼생활의 행복은 관계가 있다.

위의 경우, 유의 수준(p-value)이 0.05, 자유도 3에서의 기각역은 12.8임. (카이자승분포표에서 얻음.)
(달리 말해서 귀무가설이 참일 경우, $\chi^2$의 값이 12.8 와 같거나 그 이상일 확률은 0.05임.)

$49.65 > 12.8$ 이므로 Null Hypothesis(귀무가설)가 참일 확률은 0.05보다 훨씬 작다.
즉, 위의 결과를 분석시 "학력과 결혼생활은 관계가 있다." 고 볼 수 있다.

 

2022.04.25 - [.../Math] - Chi Square for Large Contingency Table

Chi Square for Large Contingency Table

 

2022.04.25 - [.../Math] - Chi Square : Independence Test (Analysis of Contingency Table)

Chi Square : Independence Test (Analysis of Contingency Table)

---

적합성검정 (Goodness of fit test)

다음과 같은 특정 방사성 물질을 방사선계측기의 결과시, 방사선계측기 상태는 양호한가?
(아래의 측정값은 모두 동일한 분포로부터 나온 것 인가? 각 측정값의 동일한 기대값을 갖는가?)

	1차 측정	2차 측정	3차 측정	4차 측정	계
	350 (400)	500 (400)	300 (400)	450 (400)	1600
계	350	500	300	450	1600

• 동일한 방사성 물질을 체크했으므로 동일한 분포에서 4개의 측정치가 나온 것이고 때문에 가로 안의 400이 기대값임.

 

$$\sum \chi^2=(350-400)^2/400+ (500-400)^2/400 +(450-400)^2/400 +(300-400)^2/400 = 62.5$$

자유도 = 4-1 = 3

• 귀무가설 : 모든 측정은 동일한 기대값을 가진다.
• 대립가설 : 모든 측정은 동일한 기대값을 가지지 않는다.

유의 수준(p-value)이 0.05, 자유도 3에서의 기각역은 12.8임. (카이자승분포표에서 얻음.)

$62.5 > 12.8$ 이므로 이 경우 $p$-value는 $0.05$보다 훨씬 작다.
즉, Null Hypothesis(귀무가설)이 참일 확률은 $0.05$보다 훨씬 작다.

이에 따라, 위의 결과는 "방사선 계측기에 문제가 있다." 고 볼 수 있다. (동일 분포가 아님.)

위의 내용은 일반적으로 유의수준이 주어진 적합성검정 의 경우이며,
방사선계측기의 경우엔 일반적으로 해당하는 자유도와 $\chi^2$을 사용하여
카이자승분포표에서 $p$-value를 구하고,
이 p-value가 0.1에서 0.9 사이 존재시 문제가 없다고 본다.

2022.04.25 - [.../Math] - Chi Square Test : Goodness of fit test

Chi Square Test : Goodness of fit test

---

동질성검정

여러 집단에서 하나의 categorical variable(범주형 변수)의 분포가 동일한지를 확인하는 검정.

 

예를 들어 A, B, C 세 지역에서 어떤 정책에 대한 찬성/반대 비율이 동일한지를 확인한다고 하자.

	찬성	반대	합계
A 지역	60	40	100
B 지역	45	55	100
C 지역	30	70	100
합계	135	165	300

• 귀무가설 : 세 지역의 찬성/반대 분포는 동일하다.
• 대립가설 : 적어도 하나의 지역은 다른 분포를 가진다.

expected frequency(기대값)는 다음과 같이 계산한다.

expected frequency
= (row total x column total) / grand total

 

예를 들어 A 지역의 찬성에 대한 기대값은 다음과 같음:

$$ 100 \times 135 / 300 = 45$$

 

chi-square statistic(카이제곱 통계량)은 각 cell에서 관측값과 기대값의 차이를 이용하여 계산:

$$\chi^2 = \sum \frac{ (E-O)^2 } {E}$$

 

계산 결과는 다음과 같음:

chi-square = 18.18
df = (3 - 1) x (2 - 1) = 2

 

유의수준 0.05, 자유도 2에서의 기각값(rejection region)은 약 5.99이므로 다음이 성립:

$$18.18 > 5.99$$

따라서 귀무가설을 기각하고, 세 지역의 찬성/반대 분포는 동일하지 않다고 볼 수 있다.

 

독립성검정과 계산 방법은 동일하지만 질문이 다름:

• 독립성검정 : 두 categorical variable이 서로 관련이 있는가? 
• 동질성검정 : 여러 집단에서 categorical variable의 분포가 동일한가?

---

같이 보면 좋은 자료들