베이즈 정리 기초 알아보기

"정확도 99% 검사에서 양성인데 왜 대부분 오탐일까?" 이 질문의 답을 수식, 계산, 실제 사건으로 차근차근 풀어 봅니다.

한눈에 보기

베이즈 정리는 "이미 알고 있던 확률(사전확률)"과 "새로 얻은 증거"를 결합해 확률을 갱신하는 규칙입니다. 이 글을 읽고 나면 검사 결과나 통계 수치를 볼 때 '정확도'만이 아니라 '그 일이 원래 얼마나 드문가'를 함께 봐야 하는 이유를 계산으로 설명할 수 있게 됩니다. 아래에서 기원과 수식, 일곱 단계 카드, 직접 따라 해 볼 계산표, 실제 사례 세 가지, 흔한 오해와 한계를 차례로 다룹니다. 이 글은 일반적인 통계 교육 자료이며 의학적·법적 판단을 대신하지 않습니다.

누가 만들었을까: 기원

이름의 주인공 토머스 베이즈는 영국의 목사이자 통계학자·철학자로 소개됩니다. 그의 논문 「우연의 교리에서 한 문제를 푸는 시론(An Essay Towards Solving a Problem in the Doctrine of Chances)」은 그가 세상을 떠난 뒤 가족이 원고를 리처드 프라이스에게 넘겼고, 프라이스가 상당 부분을 다듬어 1763년 12월 23일 왕립학회에서 낭독되었습니다(위키백과 기준). 프랑스의 피에르시몽 라플라스는 이와 같은 생각을 독립적으로 발전시켜 1774년에 결과를 정리하고, 1812년 저서 「확률의 해석적 이론」에 담았습니다. 그래서 오늘날의 베이즈 정리는 베이즈 한 사람의 업적이라기보다 베이즈, 프라이스, 라플라스의 작업이 합쳐진 결과로 설명됩니다.

수식은 이렇게 읽습니다

P(A|B) = P(B|A) × P(A) / P(B). 기호가 낯설다면 말로 바꿔 읽으면 됩니다. "증거 B를 봤을 때 A일 확률" = "A일 때 B가 나올 확률" × "원래 A일 확률" ÷ "B가 나올 전체 확률". 가장 쉬운 방법은 확률 대신 사람 수로 세는 '자연빈도' 방식입니다. 위키백과의 기저율 오류 항목이 소개하듯, 확률 문장보다 "1,000명 중 몇 명"으로 바꿀 때 사람들의 추론이 베이즈 규칙에 가까워진다는 연구(게르트 기게렌처와 울리히 호프라게)가 있습니다.

아래 일곱 카드는 개념을 '정의 → 사전확률 → 사후확률 → 의료 검사 → 기저율 → 스팸 필터 → 일상 적용' 순서로 풀어 놓은 것입니다.

  1. 베이즈 정리란?

    베이즈 정리는 새로운 정보나 증거를 얻었을 때 어떤 사건이 일어날 확률을 다시 계산하는 규칙입니다. 식으로는 P(A|B) = P(B|A) × P(A) / P(B)이며, "B를 관찰했을 때 A일 확률"을 "A일 때 B가 관찰될 확률"로부터 거꾸로 구하는 도구라고 이해하면 됩니다.

  2. 사전확률이란?

    사전확률은 새로운 증거를 보기 전에 가지고 있던 확률 추정치입니다. 어떤 병의 유병률이나 전체 메일 중 스팸의 비율이 사전확률에 해당하며, 어디서 구한 값인지(통계, 경험, 가정)에 따라 신뢰도가 달라집니다.

  3. 사후확률이란?

    사후확률은 증거를 반영해 갱신된 확률입니다. 검사 결과가 양성이라는 증거를 얻은 뒤에 다시 계산한 "실제로 병이 있을 확률"이 사후확률이며, 이 값은 다시 다음 증거를 만났을 때의 사전확률로 쓸 수 있습니다.

  4. 의료 검사 결과 해석의 함정

    검사가 "99% 정확"해도 그 병이 매우 드물면 양성 결과의 대부분은 오탐일 수 있습니다. 위키백과의 약물 검사 예시는 사용자가 0.3%이고 민감도·특이도가 모두 99%일 때, 양성이 나온 사람이 실제 사용자일 확률이 약 23%라고 계산합니다.

  5. 기저율을 무시하면 생기는 오류

    검사의 정확도만 보고 원래 그 사건이 얼마나 드문지(기저율)를 잊는 것을 기저율 오류라고 합니다. 같은 검사라도 어떤 집단에 쓰느냐에 따라 양성의 의미가 크게 달라지므로, 정확도와 기저율을 반드시 함께 봐야 합니다.

  6. 스팸메일 필터에서의 활용

    나이브 베이즈 스팸 필터는 메일 속 단어가 스팸 메일과 정상 메일에서 각각 얼마나 자주 나타났는지를 학습해, 새 메일이 스팸일 확률을 계산합니다. 단어들이 서로 독립이라는 단순한 가정을 쓰지만 실제로는 잘 작동하는 것으로 알려져 있습니다.

  7. 일상에서의 베이즈적 사고

    새로운 정보가 들어올 때마다 기존 판단을 한꺼번에 뒤집지도, 완전히 무시하지도 않고 조금씩 수정하는 태도가 베이즈적 사고입니다. 처음 믿음(사전확률)이 얼마나 강했는지와 새 증거가 얼마나 결정적인지를 함께 따져 보는 것이 핵심입니다.

직접 계산해 보기: 같은 검사, 다른 결과 (가상 예시)

아래는 실제 검사가 아니라 계산을 보여 주기 위한 가상 예시입니다. 어떤 검사가 병이 있는 사람의 90%를 양성으로 가려내고(민감도 90%), 병이 없는 사람의 90%를 음성으로 가려낸다(특이도 90%)고 합시다. 사람이 10,000명이고 유병률이 1%라면 병이 있는 사람은 100명, 없는 사람은 9,900명입니다. 병이 있는 100명 중 90명이 양성이고, 병이 없는 9,900명 중 10%인 990명도 양성이 됩니다. 양성은 모두 1,080명인데 그중 진짜 환자는 90명뿐이므로 양성일 때 실제로 병이 있을 확률은 90/1,080, 약 8.3%입니다.

같은 검사를 쓰되 대상의 유병률만 바꾸면 결과는 다음처럼 달라집니다(민감도·특이도 모두 90%, 모두 가상 계산).

유병률(사전확률)10,000명 중 환자양성자 중 실제 환자 비율
0.1%10명약 0.9%
1%100명약 8.3%
10%1,000명50%
50%5,000명90%

표가 알려 주는 것은 검사의 성능이 같아도 사전확률이 바뀌면 양성의 의미가 완전히 달라진다는 점입니다. 증상이 있어 이미 가능성이 높은 사람(예: 사전확률 20%)이라면 같은 검사의 양성이 약 69%로 올라갑니다. 이것이 의료 현장에서 "증상이나 위험 요인이 있는 사람에게 검사를 권한다"는 원칙이 설명되는 방식 중 하나입니다.

실제 사례 세 가지

사례 1. 99% 정확한 약물 검사의 함정 (교육용으로 널리 쓰이는 표준 예시)

위키백과의 베이즈 정리 항목에는 다음과 같은 약물 검사 예시가 실려 있습니다. 인구의 0.3%가 어떤 약물을 사용하고, 검사의 민감도와 특이도가 모두 99%라고 합니다. 이때 양성이 나온 사람이 실제 사용자일 확률은 (0.99 × 0.003) ÷ (0.99 × 0.003 + 0.01 × 0.997)로 계산되며 약 23%입니다. 검사가 "99% 정확"하다는 말에서 떠올리기 쉬운 99%와는 크게 다릅니다. 사용자가 워낙 적어서 비사용자 쪽에서 나온 1%의 오탐이 진짜 양성보다 많기 때문입니다. 이 예시는 위키백과가 설명용으로 든 계산이며 특정 검사의 실제 성능이 아닙니다. 배울 점은 '정확도 숫자' 하나로 결과를 판단하지 말고, 대상 집단의 기저율을 함께 확인하는 습관입니다.

사례 2. 영국 새러 클라크 사건 (확률 계산이 판결에 쓰인 사례)

위키백과에 따르면 영국의 새러 클라크는 1999년 11월 두 아들 크리스토퍼(1996년)와 해리(1998년)를 살해했다는 혐의로 유죄 판결을 받았습니다. 재판에서 소아과 의사 로이 메도는 유복한 가정에서 영아 돌연사가 두 번 일어날 확률이 7,300만 분의 1이라고 증언했는데, 한 번의 확률로 추정한 약 8,500분의 1을 제곱해 얻은 수치였습니다. 영국 왕립통계학회는 2001년 10월 성명에서 이 수치에 '통계적 근거가 없다'고 지적했고, 두 사건이 서로 독립이라는 가정이 아마 틀렸을 것이라고 밝혔습니다. 또한 '두 번의 돌연사가 우연일 확률'이 아니라, 두 영아가 사망했다는 증거를 놓고 '살인일 확률과 자연사일 확률을 비교'해야 한다는 점이 베이즈적 관점에서 지적되는 핵심입니다(이른바 검사의 오류). 클라크는 2000년 10월 항소에서 유죄가 유지되었으나, 둘째 아들의 세균 검사 결과가 공개되지 않았던 사실이 드러난 뒤 2003년 1월 두 번째 항소에서 유죄가 뒤집혀 석방되었고, 2007년에 사망했습니다. 이 사건에서 배울 점은 확률 계산이 틀리면 개인의 삶이 걸린 판단도 흔들린다는 것과, 독립 가정을 점검하지 않은 곱셈이 얼마나 위험한가입니다.

사례 3. 스팸 필터의 학습 (소프트웨어 적용 사례)

위키백과의 나이브 베이즈 스팸 필터 항목에 따르면 베이즈 알고리즘을 이용한 메일 필터링 프로그램은 1990년대 후반에 등장했고, 사하미 등의 1998년 논문이 이 방법을 다룬 첫 학술 발표로 소개됩니다. 폴 그레이엄이 2002년에 발표한 글 「A Plan for Spam」은 이 방식을 널리 알린 글로 평가됩니다. 필터는 메일 속 단어(토큰)가 스팸과 정상 메일에서 얼마나 자주 나왔는지로 단어마다 '스팸다움'을 계산하고, 단어들이 서로 독립이라는 단순한 가정 아래 이를 곱해(실제로는 로그를 취해 더해) 전체 메일의 스팸 확률을 얻습니다. 이 가정은 현실과 맞지 않지만 분류기는 실제로 잘 작동한다고 같은 문서는 설명합니다. 한편 스팸 발송자가 무해한 문장을 잔뜩 섞어 점수를 낮추는 '베이즈 중독'이라는 대응도 있습니다. 배울 점은 베이즈 정리가 이론이 아니라 '계속 갱신되는 계산 규칙'으로 쓰일 수 있고, 가정이 단순해도 쓸모가 있지만 공격과 한계도 있다는 것입니다. 아래는 계산 방식을 보여 주는 가상 예시입니다.

가상 예시: 스팸과 정상 메일이 반반인 사서함에서 "당첨"이라는 단어가 스팸의 40%, 정상 메일의 1%에 등장한다고 합시다. 이 단어가 든 메일이 스팸일 확률은 (0.4×0.5) ÷ (0.4×0.5 + 0.01×0.5) ≈ 97.6%입니다. 여기에 "링크"라는 단어가 스팸의 30%, 정상 메일의 2%에 있다고 하면 앞의 97.6%를 새 사전확률로 삼아 약 99.8%로 갱신됩니다. 사후확률이 다음 단계의 사전확률이 되는 과정을 그대로 보여 줍니다.

내 판단에 적용하는 체크리스트

흔한 오해와 정정

한계와 논쟁

베이즈 정리 자체는 확률론의 정리이지만, 이를 통계 추론의 철학으로 쓸 때는 사전확률을 어떻게 정하느냐가 오랫동안 논쟁거리입니다. 자료가 부족할 때는 사전확률이 주관적 판단에 크게 좌우될 수 있고, 모형이 복잡해지면 계산 비용도 커집니다. 스팸 필터에서 보듯 독립 가정은 단순화이고 현실과 차이가 있습니다. 이 글의 수치 예시 가운데 사례 1과 사례 2의 숫자는 위키백과에 정리된 것이며, 가상 예시는 계산을 보이기 위한 것이므로 실제 검사나 필터의 성능으로 읽어서는 안 됩니다.

자주 묻는 질문

베이즈 정리는 전문가만 쓰는 어려운 개념인가요?

수식 자체는 복잡해 보일 수 있지만, 새로운 정보로 기존 판단을 수정한다는 핵심 원리는 일상적인 의사결정에서도 흔히 사용하는 사고방식입니다. 사람 수로 바꿔 세면 고등학교 수준의 산수로도 계산할 수 있습니다.

검사 결과가 양성이면 병에 걸린 것으로 봐야 하나요?

검사 정확도뿐 아니라 그 병의 원래 발생 확률(기저율)에 따라 실제 확률이 크게 달라질 수 있으므로, 추가 검사나 전문가 상담을 통해 확인하는 것이 안전합니다. 이 글은 일반 정보이며 진단을 대신하지 않습니다.

민감도와 특이도는 무엇이 다른가요?

민감도는 병이 있는 사람을 양성으로 가려내는 비율, 특이도는 병이 없는 사람을 음성으로 가려내는 비율입니다. 특이도가 낮으면 오탐(가짜 양성)이 늘고, 민감도가 낮으면 놓치는 환자가 늘어납니다.

사전확률을 모르면 베이즈 정리를 쓸 수 없나요?

사전확률의 근거가 약할 때는 값을 몇 가지로 바꿔 보며 결과가 얼마나 달라지는지 확인하는 방법을 씁니다. 위 표처럼 사전확률을 달리해 계산해 보면 결론이 얼마나 사전확률에 의존하는지 감을 잡을 수 있습니다.

스팸 필터가 가끔 정상 메일을 스팸으로 분류하는 이유는 무엇인가요?

필터는 단어의 통계적 경향으로 판단하기 때문에, 스팸에 자주 쓰이는 단어가 정상 메일에 들어 있으면 점수가 올라갈 수 있습니다. 반대로 스팸 발송자가 평범한 문장을 섞으면 점수가 낮아지는 경우도 있습니다.

이어서 읽어 보세요