손으로 계산해 보기: 여덟 개 값의 표준편차
계산 절차는 네 단계입니다. 평균을 구하고, 각 값에서 평균을 뺀 편차를 제곱하고, 그 제곱을 평균 내 분산을 구한 뒤, 제곱근을 씌웁니다. 위키백과의 표준편차 항목이 예시로 드는 값 2, 4, 4, 4, 5, 5, 7, 9로 해 보면 평균은 5이고, 편차의 제곱은 9, 1, 1, 1, 0, 0, 4, 16으로 합이 32입니다. 이 여덟 값 전체가 모집단이라면 분산은 32 ÷ 8 = 4, 표준편차는 2입니다. 같은 값이 더 큰 집단에서 뽑은 표본이라면 N-1인 7로 나누어 분산이 약 4.57, 표준편차가 약 2.14가 됩니다.
모집단과 표본: 왜 N-1로 나눌까
| 구분 | 나누는 수 | 언제 쓰나 | 위 예시 결과 |
|---|---|---|---|
| 모집단 표준편차 | N | 관심 대상 전체의 값을 모두 가졌을 때 | 2 |
| 표본 표준편차(보정) | N-1 | 전체 중 일부만 뽑아 전체의 흩어짐을 추정할 때 | 약 2.14 |
N-1로 나누는 방식을 베셀 보정이라 하며, 표본에서 구한 분산이 전체 분산을 한쪽으로 치우치게 추정하는 문제를 바로잡아 줍니다(위키백과 기준). 다만 분산이 아니라 그 제곱근인 표준편차는 보정 후에도 약간의 치우침이 남습니다. 통계 프로그램이 "STDEV.S", "STDEV.P"처럼 둘을 구분하는 이유가 이것입니다.표본조사와 전수조사의 차이를 알면 어느 쪽을 써야 하는지 판단하기 쉽습니다.
같은 평균, 다른 모습: 가상 예시
가상 예시입니다. 두 반이 시험을 봤고 학생 5명씩의 점수가 다음과 같다고 가정합니다. A반은 70, 72, 75, 78, 80점, B반은 50, 60, 75, 90, 100점입니다. 두 반 모두 평균은 75점입니다. 5명 전체를 모집단으로 보고 계산하면 A반의 분산은 13.6이어서 표준편차는 약 3.7점, B반의 분산은 340이어서 표준편차는 약 18.4점입니다. (5명을 더 큰 집단의 표본으로 본다면 N-1로 나누어 각각 약 4.1점, 약 20.6점이 됩니다.) 평균만 보면 두 반이 같지만, A반은 대부분 비슷한 수준이고 B반은 상위권과 하위권의 격차가 큰 반이라는 사실이 표준편차에서 드러납니다. 이 숫자만으로 "어느 반이 더 잘한다"를 말할 수는 없고, 무엇을 알고 싶은지에 따라 해석이 달라집니다.
실제 사례 세 가지
사례 1. 용어의 탄생: 칼 피어슨의 "표준편차" (개념의 사례)
오늘 쓰는 "표준편차(standard deviation)"라는 이름은 처음부터 있던 것이 아닙니다. 위키백과 표준편차 항목에 따르면 가우스는 같은 개념을 "평균 오차(mean error)"라고 불렀고, 영국의 통계학자 칼 피어슨이 1894년 글에서 "standard deviation"이라는 용어를 처음 문서로 썼으며 그 전에 강의에서 먼저 사용했습니다. 같은 개념이 이름만 바뀌어 정리된 흐름입니다. 배울 점은 표준편차가 어느 날 갑자기 나타난 도구가 아니라 측정 오차를 다루는 과정에서 다듬어져 온 개념이라는 것입니다. (용어의 연도는 자료에 따라 다르게 적히는 경우가 있어, 여기서는 위키백과 기준을 따랐습니다.)
사례 2. 불량률을 시그마로 말하다: 모토로라의 식스 시그마 (산업의 사례)
식스 시그마는 1986년 미국 모토로라의 기술자 빌 스미스가 도입한 품질 관리 방법으로, 위키백과 기준 모토로라는 1991년 서비스마크, 1993년 상표로 등록했습니다. 이름은 정규분포에서 평균 기준 표준편차의 여섯 배 범위에서 따왔고, 장기적으로 백만 기회당 결함 3.4개 이하를 목표로 합니다. 이 3.4라는 값은 공정 평균이 시간이 지나며 1.5 시그마 정도 움직인다는 가정을 넣은 것입니다. 통계학자 도널드 휠러는 이 1.5 시그마 이동 가정이 임의적이라고 비판했고, 필립 크로스비는 이 목표가 복잡한 제품에는 충분히 엄격하지 않다고 지적했습니다. 배울 점은 표준편차가 "얼마나 균일한가"를 말해 주는 실무 도구이지만, 그 위에 올린 가정(정규성, 이동 폭)은 따로 따져야 한다는 것입니다.
사례 3. 수능 표준점수: 성적을 평균과 표준편차로 바꾸기 (교육의 사례)
한국의 대학수학능력시험은 응시한 영역의 평균과 표준편차를 갖도록 원점수를 변환한 표준점수를 사용합니다(위키백과 기준 1999학년도 탐구영역 선택과목과 함께 도입). 식은 S = zσ + m이며, 여기서 z는 (원점수 - 과목 평균)/과목 표준편차입니다. 과목마다 난이도와 응시 집단이 다른 시험을 같은 잣대 위에 놓고 상대적 위치를 비교하려는 방식입니다. 한국사·영어 등은 절대평가라 등급만 표시됩니다. 구체적인 변환 상수와 반영 방법은 해마다 한국교육과정평가원과 대학별 모집 요강에서 확인해야 합니다. 배울 점은 표준편차가 점수의 "눈금 단위"를 맞추는 역할도 한다는 것입니다.
직접 해보기: 내 숫자에 적용하는 체크리스트
- 평균과 표준편차를 한 쌍으로 적기: 성적, 월 지출, 통근 시간 등 반복되는 숫자는 평균과 표준편차를 같이 적어 두면 "대체로 이 정도 범위"를 잡을 수 있습니다.
- 값을 z로 바꿔 보기: 평균 60, 표준편차 10인 시험에서 80점은 (80-60)/10 = 2, 즉 평균보다 표준편차 2개만큼 높은 위치입니다(가상 예시).
- 그림부터 그리기: 점이나 막대로 분포를 먼저 보면 한쪽으로 치우쳤는지, 봉우리가 둘인지 알 수 있습니다. 표준편차 하나로는 알 수 없는 모양입니다.
- 모집단인지 표본인지 확인: 전체 데이터면 N, 일부만 있으면 N-1 공식을 선택합니다. 통계 계산기에서 직접 입력해 볼 수 있습니다.
흔한 오해와 정정
- 오해: 표준편차는 편차의 단순 평균이다. 실제: 편차를 제곱해 평균한 뒤 제곱근을 씌우므로 큰 편차가 더 크게 반영됩니다. 절댓값 편차의 평균(평균절대편차)과는 다른 값입니다.
- 오해: 데이터의 68%는 항상 평균 ± 1 표준편차 안에 있다. 실제: 이 비율은 정규분포에 가까울 때의 규칙입니다. 어떤 분포에서도 성립하는 것은 체비쇼프 부등식으로, 평균 ± 2 표준편차 안에 최소 75%, ± 3 표준편차 안에 최소 약 89%라는 느슨한 하한입니다.
- 오해: 표준편차가 크면 나쁘다. 실제: 좋고 나쁨은 목적에 따라 다릅니다. 부품 크기는 작을수록 좋지만, 취향이 다양한 집단처럼 다양성 자체가 정상인 경우도 있습니다.
- 오해: 서로 다른 단위의 표준편차를 바로 비교할 수 있다. 실제: 키(cm)와 몸무게(kg)의 표준편차는 단위가 다릅니다. 비교하려면 z 점수처럼 표준화해야 합니다.
한계와 더 알아볼 점
표준편차는 극단값에 민감합니다. 값 하나가 크게 벗어나면 편차의 제곱이 반영되어 표준편차가 크게 달라지므로, 이상치가 있는 데이터에서는 중앙값 같은 다른 지표를 함께 보는 것이 일반적입니다. 또 서로 다른 모양의 분포가 같은 평균과 표준편차를 가질 수 있어서, 두 숫자만으로 분포의 전부를 알 수는 없습니다. 투자 분야에서 수익률의 표준편차를 변동성으로 해석하는 것은 하나의 관례일 뿐 미래의 손실 한도를 보장하지 않으며, 이 글은 일반적인 통계 정보이지 투자 권유가 아닙니다. 표준편차와 정규분포의 관계는 정규분포(종형 곡선) 알아보기에서 이어서 볼 수 있습니다.
자주 묻는 질문
표준편차는 음수가 될 수 있나요?
아니요, 표준편차는 편차를 제곱한 값의 제곱근이므로 항상 0 이상의 값을 가집니다.
표준편차가 0이라는 것은 무슨 뜻인가요?
표준편차가 0이라는 것은 모든 데이터 값이 완전히 동일하다는 의미로, 데이터에 아무런 편차가 없다는 뜻입니다.
분산 대신 표준편차를 쓰는 이유는 무엇인가요?
분산은 편차를 제곱했기 때문에 단위도 제곱이 됩니다(점수라면 점수의 제곱). 제곱근을 씌운 표준편차는 원래 데이터와 같은 단위여서 "평균에서 대략 몇 점 떨어져 있다"처럼 바로 해석할 수 있습니다.
엑셀에서 STDEV.S와 STDEV.P 중 무엇을 써야 하나요?
가진 데이터가 대상 전체이면 STDEV.P(N으로 나눔), 전체 중 일부를 뽑은 표본이면 STDEV.S(N-1로 나눔)를 씁니다. 판단이 어렵다면 데이터가 어떻게 모였는지를 먼저 확인하세요.
표준편차와 표준오차는 같은 건가요?
다릅니다. 표준편차는 개별 데이터가 흩어진 정도이고, 표준오차는 표본 평균이 얼마나 흔들리는지를 나타내는 별개의 개념입니다. 이 글에서는 표준편차만 다루었습니다.
이어서 읽어 보세요
- 평균·중앙값·최빈값: 데이터의 중심을 나타내는 세 가지 방법
- 정규분포 알아보기: 표준편차와 종 모양 분포의 관계
- 백분위 이해하기: 위치를 나타내는 또 다른 방법
- 표본조사와 전수조사: 모집단과 표본의 차이