고등학교 수학 내용 중 '조건부 확률'이라는 부분은 많은 경우 아래의 예화와 함께 설명되어지곤 한다.


1. 세 개의 문(A, B, C)이 있다. 하나에는 자동차가, 나머지 둘에는 모두 염소가 들어있다.

2. 사회자는 모든 문 뒤에 무엇이 있는 줄 이미 알고있지만 참가자는 알지 못한다.

3. 참가자는 어떤 특정한 문을 선택하고, 사회자는 남아있는 문 가운데 염소가 들어있는 문 하나를 개방한다.

4. 그 후 사회자는 참가자에게 묻는다. '선택을 바꾸시겠습니까?'

5. 이러한 경우 참가자는 자신의 선택을 바꾸는 편이 (확률적으로) 유리한가, 아니면 바꾸지 않는것이 유리한가?


몬티홀의 문제로 알려진 이 문제는, 조건부 확률을 얼마나 정확하게 알고있느냐에 따라 쉽게 풀리기도 하고, 또 쉽게 풀리지 않더라도 문제의 풀이를 보고 쉽게 이해할 수 있게 된다. 문제에 대해 설명을 하기전에 답을 먼저 내린다면, 확률적으로 참가자는 문을 바꾸는 편이 유리하다. 참가자가 자신의 선택을 바꾸지 않은 채 그대로 고집한다면, 그는 자동차를 얻을 수 있는 확률이 1/3에 그치고, 만약 선택하는 문을 바꿀경우 그가 자동차를 얻을 수 있는 확률은 2/3으로 높아진다. 이에 대해서 간단하게 살펴보자.


구구절절하게 수학적인 의미를 찾기에 앞서, 경우에 수를 따져보면 사실간단하다. 일단 먼저, A문에는 자동차가, B와 C문에는 염소가 있다고 가정하다. 그렇게 되면 참가자에게는 일단 3가지의 선택 권한이 주어진다. A나 B, 또는 C의 문을 선택할 권한이다. 각각의 경우를 이제 살펴보자.


< 선택을 바꿀 경우 >

참가자가 A를 선택 -> 사회자는 B나 C 임의의 문을 열어준다(모두 염소이므로) -> 선택을 바꾼다 -> 실패한다.

참자가자 B를 선택 -> 사회자는 C의 문을 열어준다(A는 차, C는 염소이므로) -> 선택을 바꾼다(B에서 A) -> 성공한다.

참가자가 C를 선택 -> 사회자는 B의 문을 열어준다(A는 차, B는 염소이므로) -> 선택을 바꾼다(C에서 A) -> 성공한다.


< 선택을 바꾸지 않을 경우 >

참가자가 A를 선택 -> 사회자는 B나 C 임의의 문을 열어준다(모두 염소이므로) -> 선택을 바꾸지 않는다 -> 성공한다.

참자가자 B를 선택 -> 사회자는 C의 문을 열어준다(A는 차, C는 염소이므로) -> 선택을 바꾸지 않는다 -> 실패한다.

참가자가 C를 선택 -> 사회자는 B의 문을 열어준다(A는 차, B는 염소이므로) -> 선택을 바꾸지 않는다 -> 실패한다.


각각의 경우의 확률이 2/3과 1/3으로, 선택을 바꾸는 편이 확률적으로 훨씬 유리하다는 것을 확인할 수 있다. 이를 다시 정리해보자. 일단, 당신이 선택한 문 뒤에 자동차가 있을 확률은 쭉 1/3으로 고정되어 있다. 그리고 당신이 선택하지 않은 문에 자동차가 있을 확률도 2/3으로 고정되어 있다. 그리고서는 사회자에 의해, 두 개의 문 중 자동차가 없는 다른 문 하나가 열린다. 하지만 아직도, 당신이 선택하지 않은 문에 자동차가 있을 확률은 그대로 2/3이고, 결국 당신이 선택을 바꿀 경우, 당신이 바꿔 선택한 문에 자동차가 있을 확률은 2/3이 되는 것이다. 말장난 같지만, 경우의 수를 따져보면 이는 분명하게 나타난다.


책 소개는 안하고 왠 갑자기 수학이야기를 하느냐고 반문할 수 있지만, 이러한 조건부 확률은 사실 베이즈 이론의 다른 표현 가운데 하나이기 때문에 오늘 소개하고자 하는 책 '불멸의 이론'과 밀접한 연관이 있기에 간단하게나마 살펴봤다. 책 '불멸의 이론'에서 중점적으로 다루고 있는 베이즈 정리는 토마스 베이즈의 친구인 리처드 프라이스가 베이즈의 유고를 정리하다 발견한 한 메모에서 시작되었다. 이는 '이전의 경험과 현재의 증거를 토대로 어떤 사건의 확률을 추론'하는 일련의 시스템으로 설명된다. 이를 간단하게 수식으로 나타내면




로 나타낼 수 있다. P(A)는 어떠한 증거도 주어지지 않은 상황에서 A라는 사건이 일어날 수 있는 확률(사전확률)을 의미하고, P(A l B)는 B라는 이전의 경험이나 현재의 증거가 주어졌을 때 새롭게 정의되는 사건 A의 확률(사후확률)을 의미한다. 이를 앞서 설명한 몬티홀 문제에 적용해 쉽게 이해할 수 있다. 예컨데 사건 A가 'A문에 자동차가 있는 경우'로 지정하고, 사건 B를 '진행자가 B문을 열 경우'로 놓고 확률을 계산해보면 앞서 살펴본것처럼 1/3의 확률이 계산되게 되고( P(B l A) = 1/2, P(A) = 1/3, P(B) = 1/2 ), 반대로 사건 A를 'C문에 자동차가 있는 경우', 그리고 사건 B를 '진행자가 B문을 열 경우'로 확률을 놓고 계산하게 되면 역시 2/3의 확률이 계산( P(B l A) = 1, P(A) = 1/3, P(B) = 1/2)되게 된다. 결국 선택을 바꾸는 것이 유리하다는 것을 보여주는 경우라고 할 수 있다. 


이러한 베이즈 이론은 '기하학에 피타고라스의 정리가 있다면 통계학에는 베이즈 정리가 있다'라고 할 만큼 큰 비중을 차지하고 있는 이론이다. 그 만큼의 비중을 차지하고 있듯이 수학자들 사이에서도 이 이론이 옳은가, 또는 잘못된것인가에 대한 논쟁도 참으로 오랜 기간동안 이뤄졌다. 실제로 몬티홀 문제만을 놓고 보더라도, 당시 '선택을 바꾸는 것이 유리하다'라고 처음으로 이를 설명해냈을 때, 많은 사람들로부터 항의를 받았고, 개중에는 실제로 대학에서 수학을 강의하는 교수들도 있었다. 단순하게 놓고 봤을 때, 사회자의 행동으로 인해 선택지가 하나 줄어들었고, 결국은 그저 확률이 반반으로 바뀐것에 불과하기 때문이라는 것이 그 이유였다. 


그러나 베이즈 이론은 단순한 이론으로만 그치지 않고 실제 역사속에서도 많이 사용되어 왔다. 2차 세계 대전 당시 앨런 튜링의 암호해독은 연합군의 대서양 전투의 승리를 가져오는데에 지대한 영향을 끼쳤고, 이는 베이즈 이론을 현장에서 잘 활용하였기 때문에 가능한 일이였다. 암호해독은 빠른 시간 내에 해독하는 것과 정확하게 해독해 내는 것이 중요한데, 이 해독의 정확성을 높이는데에 베이즈 이론이 적용되었다고 볼 수 있기 때문이다. 이 밖에도 냉전 시대의 핵 잠수함 추적, 유실된 수소폭탄의 탐색, 폐암의 발생 원인, 보험의 탄생 등 많은 곳에 활용되었고, 또 지금도 활용되어 지고 있다.


하지만 높은 활용도에 비해 대중들에게 이 이론이 알려진지는 얼마 되지 않는데, 이는 통계학자들이 이 이론에 대해서 언급하기를 꺼려왔기 때문이다. 책 '불멸의 이론'은 간단하면서도 힘있는 이 이론이 가져온 논쟁, 그리고 오늘날에 어떻게 적용되어지고 있는지를 폭 넓게 다루고 있는 책으로, 간단한 수학적 이론이 세계에 얼마나 큰 영향을 끼쳤는지를 재밌게 읽어볼 수 있는 책이다.


불멸의 이론 - 8점
샤론 버치 맥그레인 지음, 이경식 옮김/휴먼사이언스