통계분석 시, 표본 분산 계산을 왜 n 대신 n-1을 쓸까? 자유도(df) 쉽게 이해하기

통계분석, 자유도 이해하기

 

논문 통계나 데이터 분석을 공부하다 보면 반드시 마주치는 개념이 바로 자유도(Degrees of Freedom)입니다.

“왜 분산을 구할 때 n-1로 나누지?” “검정에서 자유도가 왜 중요하지?”

이런 궁금증을 해결하기 위해서는 자유도를 정확히 이해해야 합니다.

---

 

자유도란 무엇인가?

자유도는 통계적 추정이나 검정에서 자유롭게 변할 수 있는 값의 개수를 의미합니다. 어떤 조건이나 제약이 주어졌을 때, 그 조건을 만족하면서도 독립적으로 변할 수 있는 변수의 수입니다.

 

일상 속 자유도 예시

<카페에서 음료 주문하기>

1. 친구 4명과 함께 카페에 갔는데, 총 예산이 2만원으로 정해져 있음

2. 친구 4명이 각각 5천원, 3천원, 4천원, 3천원짜리 음료를 주문

3. 마지막 한 명은? → 5천원짜리만 주문 가능 (2만원 - 1만5천원 = 5천원)

4. 자유도 = 4(마지막 사람의 선택권은 이미 결정됨)

일상 속 자유도 예시

 

통계에서의 자유도

1. 평균과 자유도

가장 기본적인 예시로 5명 학생의 키 데이터를 살펴보겠습니다.

학생	키(cm)
A	160
B	165
C	170
D	175
E	?

 

평균이 170cm라는 조건이 주어졌을 때:

앞 4명까지 알면 마지막 학생의 키는 평균 조건 때문에 자동으로 결정됩니다.

총합 = 평균 × 인원수 = 170 × 5 = 850

앞 4명 합 = 670

따라서 마지막 E의 키 = 850 - 670 = 180cm (자동 결정!)

즉, 5명 중 자유롭게 변할 수 있는 값은 4명뿐

▶결론: 자유도 = n-1 = 4

 

통계에서의 자유도

2. 분산에서의 자유도

 

분산(Variance): 평균으로부터의 차이를 제곱한 평균(편차 제곱의 평균)

분산은 각 데이터가 평균으로부터 얼마나 떨어져 있는지를 측정하는 지표입니다. 모든 데이터를 고려하므로 범위보다 정확한 산포 측정이 가능합니다.

표준편차 구하는 방법 쉽게 알아보기_퀵데이터

 

 

학생	키(cm)	편차 (평균과의 차이)	편차제곱 (평균과의 차이²)
1	160	(160-170) -10	(160-170)² 100
2	165	-5	25
3	170	0	0
4	175	+5	25
5	180	+10	100
평균	170	0

 

1단계: 평균 계산

2단계: 각 값에서 평균을 뺀 차이 계산(편차의 합은 항상 0)

3단계: 평균과의 차이를 제곱(음수를 양수로 만들어 절댓값 개념으로 처리)

4단계: 제곱한 값들의 평균 계산(분산)

분산 = 편차제곱의 합 ÷ 자유도 [s²= Σ(xi - x̄)² ÷ (n-1)]

(100+25+0+25+100) ÷ (5-1) = 250 ÷ 4 = 62.5

 

왜 5-1을 하나? => 왜 n-1인가?

표본으로 모집단의 평균을 추정할 때, 이미 평균(170cm)을 구하는 과정에서 자유도가 1개 소모됩니다.

학생 4명의 키만 알면 5번째 값은 평균 조건에 의해 자동으로 결정되었죠?

평균이 170으로 계산된 상황에서 앞 4명 키(160, 165, 170, 175)를 이미 알고 있다면

5번째 학생의 키는 평균 조건을 만족해야 하므로 자동으로 결정되는 것입니다.

이렇게 평균이 고정돼 있기 때문에, 마지막 값은 “자유롭게” 변할 수 없고 이미 결정되는 겁니다.

따라서 실제로 “자유롭게 변할 수 있는 값”은 n-1개뿐입니다.

 

모집단 분산 vs 표본 분산

 

• 모집단 분산(σ²): 전체 집단 데이터를 모두 알고 있을 때 계산 → 분모 n사용
• 표본 분산(s²): 일부 데이터(표본)로 모집단을 추정할 때 계산 → 분모 n-1사용

표본으로 계산한 분산은 모집단 분산보다 작게 나오는 경향이 있습니다(편향, bias).

그래서 n 대신 (n-1)로 나눠 보정해주면, 모집단의 분산을 더 정확하게 추정할 수 있습니다(보정 효과: 불편추정량, Unbiased Estimator).

▶쉽게 말하면, 전체 집단을 다 알면 n으로 나누고, 일부(표본)만 알면 n-1로 나눈다.

n-1은 평균을 이미 썼기 때문에 자유롭게 변할 수 있는 데이터 개수가 줄었음을 반영한 것이다.

 

다양한 통계 기법에서의 자유도

 

카이제곱 검정(χ²)의

자유도 = (행 개수 - 1) × (열 개수 - 1)

t-검정에서

단일표본 t 자유도 = n-1

독립표본 t 자유도:= n₁+ n₂ - 2

분산분석에서

집단 간 자유도= k-1 (k = 집단 수)

집단 내 자유도= N-k (N = 전체 표본 수)

 

자유도가 중요한 이유

• 정확한 통계적 추론: 자유도가 다르면 같은 통계량이라도 임계값이 달라집니다. 예를 들어, t-분포에서 자유도가 작을수록 분포가 더 넓어집니다.
• 검정력(Power) 향상: 적절한 자유도를 사용해야 통계적 검정의 검정력이 최대화됩니다.
• 불편추정량(Unbiased Estimator): n-1로 나누는 것은 모집단 모수를 편향 없이 추정하기 위함입니다.

 

자유도가 많이 소실되는 경우

 

1. 표본 크기가 작은 경우

자유도(df)는 표본 수에 직접적으로 영향을 받습니다. n이 작으면 자유도가 작아지고, t-분포가 정규분포보다 꼬리가 두꺼워집니다.

임계값이 커지므로 유의성을 얻기 어려워집니다. 자유도가 작다고 p-value 자체가 커지는 건 아니고, 같은 효과크기라도 유의성을 얻기 더 어려워진다는 의미입니다.

2. 많은 모수(parameter)를 추정하는 경우

회귀분석, 구조방정식(SEM) 등에서는 독립변수가 많아질수록 추정해야 할 모수가 늘어납니다.

회귀분석: df = n - k - 1 (k는 독립변수 개수), 독립변수가 많아질수록 자유도 감소, 과적합(overfitting) 위험 증가

3. 복잡한 모형을 사용하는 경우

다중회귀, 경로분석, 구조방정식 모형에서 불필요하게 변수를 많이 넣으면 자유도가 소실됩니다.

구조방정식 모형(SEM)에서 df = 관찰정보 수 - 추정 모수 수

자유도가 낮으면 모델 적합도 검정(χ²검정 등)에서 유의하지 않게 나올 수 있습니다.

4. 표본 대비 변수 수가 많은 경우

탐색적 요인분석(EFA), 확인적 요인분석(CFA)에서 항목 수는 많은데 표본이 적으면 자유도가 크게 줄어듭니다.

요인분석에서 일반적으로 표본 수 > 변수 수 × 5~10배권장

변수 수 ≥ 표본 수면 행렬의 역행렬을 구할 수 없어 분석 불가

---

핵심 용약

 

1. 자유도(df)는 통계적 제약 조건하에서 자유롭게 변할 수 있는 정보의 수입니다.

2. 표본 평균 등 특정 값을 계산하면 제약 조건이 생기고, 그만큼 자유도는 줄어듭니다(대표적으로 n-1).

3. 자유도가 높을수록 더 많은 정보를 활용했다는 의미이며, 이는 분석 결과의 신뢰도가 높다는 것을 뜻합니다.

4. 논문이나 보고서의 통계표를 볼 때, 자유도(df)를 함께 확인함으로써 해당 분석이 얼마나 신뢰할 만한 데이터에 기반했는지 가늠할 수 있습니다.

5. 통계적 검정력을 확보하고, 신뢰할 수 있는 결과를 얻기 위해서는 표본크기를 충분히 확보, 필요한 변수만 모형에 포함, 표본 수 대비 적절한 변수 비율을 유지해야 합니다.

 

 

 

위의 내용 퀵데이터 유튜브 동영상으로 확인하세요 ▼▼▼ "13분 투자하고 자유도 완벽이해하자!"

 

 

---

논문 통계분석, 혼자 해결하기 막막하시죠?

퀵데이터에서는 SPSS, AMOS 등 모든 통계분석을 1:1 맞춤 컨설팅으로 도와드립니다. 직장인 대학원생부터 박사 과정 연구자까지, 빠른 진행과 높은 합격률로 이미 많은 분들이 선택하고 있습니다.

논문, 빠르게 끝내야 할 때! 퀵데이터와 함께라면 통계분석도 걱정 없습니다.

TEL 1600-7473

 

문의하기