[SPSS] 크루스칼 왈리스 검정 (비모수 일원 배치 분산 분석: Kruskal-Wallis Test)
셋 이상의 분포에서 평균이 다른지 확인하는 방법은 ANOVA (ANalysis Of VAriance)였다.
2022.11.30 - [모평균 검정/SPSS] - [SPSS] 일원 배치 분산 분석 (One-way ANOVA, ANalysis Of VAriance)
그런데, 여기에는 각각의 분포가 정규성을 따른다는 중요한 가정이 필요하다. 하지만 정규성을 따르지 않는다면 어떻게 해야 할까? 그럴 때 사용하는 것이 크루스칼-왈리스 검정(Kruskal-Wallis Test)이다. 이번 포스팅에서는 크루스칼 왈리스 검정과 그 사후 분석 (post hoc analysis)까지 알아보고자 한다.
*실습용 데이터는 아래 링크를 클릭하면 다운로드할 수 있습니다.
2022.08.04 - [공지사항 및 소개] - 분석용 데이터 (update 22.12.01)
분석용 데이터 (update 22.12.01)
2022년 12월 01일 버전입니다. 변수는 계속하여 추가될 예정입니다. 다음 카테고리에 있는 글에서 이용된 데이터입니다. - 기술 통계 - 범주형 자료 분석 - 모평균 검정 - 반복 측정 자료 분석 - 통계
medistat.tistory.com
데이터를 불러오도록 한다. 불러오는 방법은 다음 링크를 확인하도록 한다.
2022.08.04 - [통계 프로그램 사용 방법/SPSS] - [SPSS] 데이터 불러오기 및 저장하기
목표: 흡연 상태(SMOK)에 따라 니코틴 중독 점수 (NICOT_ADDICT) 중앙값이 모집단 수준에서 서로 다르다고 말할 수 있는가?
만약 NICOT_ADDICT의 분포가 정규성을 따른다면, ANOVA로 이를 확인할 수 있을 것이다. 따라서 정규성 여부를 먼저 확인해보자.
1) 정규성
정규성 검정은 다음 링크에서 내용을 확인할 수 있다.
2022.08.11 - [기술 통계/SPSS] - [SPSS] 정규성 검정
2022.08.18 - [기술 통계/SPSS] - [SPSS] 고급 Q-Q Plot - Van der Waerden, Rankit, Tukey, Blom
1) 분석(A) > 기술통계량(E) > 데이터 탐색 (E)
2) 분석하고자 하는 변수인 NICOT_ADDICT을 "종속변수"에 넣고, 흡연 상태에 따라 분석할 것이므로 SMOK을 "요인(F)"에 넣는다. 그 뒤 "도표(T)..."를 선택한다.
3) "히스토그램(H)", "검정과 함께 정규성 도표(O)" 체크박스를 클릭하고 "계속(C)"를 누르고, 돌아가 "확인"을 누른다.
결과
1) Q-Q Plot
2) 히스토그램
3) Shapiro-Wilk 검정
N수가 2,000개 미만이므로 Shapiro-Wilk 통계량의 p-value를 보면 0.05 이하이며, Q-Q Plot은 대부분의 데이터가 선상에 있지 않고, 히스토그램에서도 정규성을 따르지 않는 것처럼 보인다. 따라서 일원 배치 분산 분석 (ANOVA)을 시행할 수 없고, 크루스칼 왈리스 분석 (Kruskal-Wallis Test)을 시행해야 한다.
지금까지 많은 분석을 할 때 분산이 같은지 여부 (등분산성)을 중요하게 여겼었다. 하지만 크루스칼 왈리스 분석은 분산이 달라도 어느 정도 괜찮다. 물론 분산에 아주 큰 차이가 나면 위험해지지만, 어느 정도는 robust 하므로 웬만하면 그냥 써도 괜찮다.
크루스칼 왈리스 (Kruskal Wallis) 검정
1) 분석(A) > 비모수검정(N) > 독립표본(I)
2) 이때 나오는 창의 첫 페이지인 "목적"은 건들지 않는다.
3) "필드"를 누르고 분석하고자 하는 NICOT_ADDICT를 "검정 필드(T)"로 넘긴다. 흡연 상태에 따라 검정할 것이므로 SMOK을 "집단(G)"로 옮긴다.
4) "사용자 정의에 의한 검정(C)"를 누르고 "Kruskal-Wallis 일원배치 분산분석(k표본)(W)"을 체크한다.
결과
p-value가 0.000 (<0.001)으로 0.05보다 작으므로 귀무가설을 기각하고 대립 가설을 채택한다. 그렇다면 여기에서 귀무가설 및 대립 가설은 무엇이었는가?
귀무가설: $H_0=$ 세 집단의 모집단 수준에서 중앙값은 "모두" 동일하다.
대립가설:$H_1=$ 세 집단의 모집단 수준에서 중앙값이 모두 동일한 것은 아니다.
우리는 대립 가설을 채택해야 하므로 "세 집단의 모집단 수준에서 중앙값이 모두 동일한 것은 아니다."라고 결론 내릴 것이다.
사후 분석
그런데, 세 집단의 중앙값이 모두 동일하지 않다는 말은 세 집단 중 두 개씩 골라 비교했을 때, 적어도 한 쌍에서는 차이가 난다는 것이다. 따라서 세 집단 중 두 개씩 골라 비교를 해보아야 하며, 이를 사후 분석 (post hoc analysis)이라고 한다. 세 집단에서 두 개씩 고르므로 가능한 경우의 수 $_3C_2=3$이다.
(1) 비흡연자 vs 과거 흡연자
(2) 비흡연자 vs 현재 흡연자
(3) 과거 흡연자 vs 현재 흡연자
비모수 검정인 Kruskal Wallis 검정의 사후 분석으로 쓰이는 방법은 다음 네 가지가 있다.
1) Pairwise Wilcoxon Test
2) Conover Test
3) Dunn Test
4) Nemenyi Test
이중 SPSS에서 기본으로 제공하는 사후검정 방법은 Dunn Test이다. 이때 p value 보정 방법은 Bonferroni를 사용하고 있다.
그리고, Kruskal-Wallis에서 유의한 차이를 보이는 경우 SPSS는 사후분석을 자동으로 실행한다.
위 표에서 봐야 하는 값은 마지막 열인 "조정된 유의확률"이다.
| 0-1 | 비흡연자 (0)와 과거 흡연자 (1) 비교 |
| 0-2 | 비흡연자 (0)와 현재 흡연자 (2) 비교 |
| 1-2 | 과거 흡연자 (1)와 현재 흡연자 (2) 비교 |
모든 p-value가 0.05보다 작으므로 다음과 같이 결론 내릴 수 있다.
비흡연자 (0)와 과거 흡연자 (1) 사이에는 NICOT_ADDICT 중앙값에 차이가 있다.
비흡연자 (0)와 현재 흡연자 (2) 사이에는 NICOT_ADDICT 중앙값에 차이가 있다.
과거 흡연자 (1)와 현재 흡연자 (2)) 사이에는 NICOT_ADDICT 중앙값에 차이가 있다.
하지만 위 결과에서 볼 수 있듯이, 영가설 (귀무가설)은 "표본1 및 표본2에서 분포가 같다"이다. 만약 분포가 똑같이 생겼는데, 중앙값만 다른 경우라면, 즉 평행이동을 한 경우라면 귀무가설의 기각은 '중앙값에 차이가 난다'를 의미한다.
그런데 만약 중앙값이 갖더라도 분포가 매우 심하게 다르다면 어떻게 될까? 영가설에 반하므로 p-value가 매우 낮게 나오게 된다. 따라서 서로 다른 분포의 모양을 고려할 수 있는 방법이 존재해야 하는데, SPSS에서는 시행을 할 수가 없다. 이는 R로 비슷하게나마 구현할 수 있는데, 다음 링크를 확인하기 바란다. 2022.12.01 - [모평균 검정/R] - [R] 크루스칼 왈리스 검정 (비모수 일원 배치 분산 분석: Kruskal-Wallis Test) - kruskal.test(), pairwise.wilcox.test(), ConoverTest(), DunnTest(), NemenyiTest()
어떤 사후 분석을 쓸 것인가
이 논의에 대해 정답이 따로 있는 것은 아니다. 적절한 방법을 사용하여 논문에 제시하면 되고, 어떤 것이 정답이라고 콕 집어 이야기할 수는 없다. 다만, 사후 분석 방법이 여러 가지가 있다는 것은 '사후 분석 방법에 따라 산출되는 결과가 달라질 수 있다.'는 것을 의미하고, 심지어는 '어떤 사후 분석 방법을 채택하냐에 따라 유의성 여부가 달라질 수도 있다.'는 것을 의미한다. 심지어, Kruskal-Wallis test에서는 유의한 결과가 나왔는데, 사후 분석을 해보니 유의한 차이를 보이는 경우가 없을 수도 있다. 따라서 어떤 사후 분석 방법 결과에 따른 결과인지 유의하여 해석할 필요가 있다.
왜 굳이 Kruskal Wallis test를 쓰는 것인가?
이 시점에서 이런 의문이 들 수 있다.
"각각의 그룹별로 평균을 비교하면 되지, 굳이 왜 Kruskal Wallis test라는 방법까지 사용하는 것인가?"
아주 논리적인 의문점이다. 하지만, 반드시 Kruskal-Wallis test를 사용해야 한다. 그 이유는 다음과 같다. 본 사례는 흡연 상태에 따른 조합 가능한 경우의 수가 3인데, 각각 유의성의 기준을 α=0.05로 잡아보자. 이때 세 번의 비교에서 모두 귀무가설이 학문적인 진실인데(평균에 차이가 없다.), 세 번 모두 귀무가설을 선택할 확률은 $\left(1-0.05 \right)^3 \approx 0.86 $이다. (이해가 어려우면 p-value에 대한 설명 글을 읽고 오길 바란다. 2022.09.05 - [통계 이론] - [이론] p-value에 관한 고찰)
그런데, Kruskal-Wallis test의 귀무가설은 "모든 집단의 중앙값이 같다."이다. 따라서 모든 집단의 중앙값이 같은 것이 학문적 진실일 때, 적어도 한 번이라도 대립 가설을 선택하게 될 확률은 $1-0.86=0.14$ 가 된다. 즉, 유의성의 기준이 올라가게 되어, 덜 보수적인 결정을 내리게 되고, 다시 말하면 대립 가설을 잘 선택하는 쪽으로 편향되게 된다. 학문적으로는 '다중 검정 (multiple testing)을 시행하면 1종 오류가 발생할 확률이 증가하게 된다.'라고 표현한다.
따라서, 각각을 비교해보는 것이 아니라 한꺼번에 비교하는 Kruskal-Wallis test를 시행해야 함이 마땅하다.
여기에서 한 번 더 의문이 들 수 있다.
"사후 분석을 할 때에는 1종 오류가 발생하지 않는가?"
그렇다. 1종 오류가 발생할 확률이 있으므로, p-value의 기준을 더 엄격하게 (0.05보다 더 작게) 잡아야 한다. P-value를 보정하는 방법은 일반적으로는 Bonferroni, holm, hochberg, hommel, BH, BY, FDR 등이 있고, Kruskal-Wallis test의 사후 분석 방법으로는 특별히 Pairwise Wilcoxon Test, Conover Test, Dunn Test, Nemenyi Test을 사용하고 있다. 이 중에서 SPSS는 Dunn Test를 이용하고 있다. R에서는 다른 방법을 사용할 수 있으니 궁금한 독자는 다음 링크를 확인하길 바란다. 2022.12.01 - [모평균 검정/R] - [R] 크루스칼 왈리스 검정 (비모수 일원 배치 분산 분석: Kruskal-Wallis Test) - kruskal.test(), pairwise.wilcox.test(), ConoverTest(), DunnTest(), NemenyiTest()
[SPSS] 크루스칼 왈리스 검정 (비모수 일원 배치 분산 분석: Kruskal-Wallis Test) 정복 완료!
작성일: 2022.12.06.
최종 수정일: 2022.12.06.
이용 프로그램: IBM SPSS v26
운영체제: Windows 10