몬티 홀 문제

몬티 홀 문제는 미국의 TV 게임 쇼 Let's Make a Deal에서 유래한 퍼즐로서. 그 이름은 게임 쇼의 진행자 몬티 홀(Monty Hall)에서 따온 것이다. 과연 그 퍼즐은 어떤 내용이었을까?.

여러분의 눈 앞에는 3개의 문이 있으며, 그 뒤에는 2마리의 염소와 1대의 스포츠카가 놓여 있다. 여러분이 3개의 문 중에서 하나를 선택했다고 하면, 사회자는 남은 문 중에서 염소가 있는 곳을 여러분에게 열어 보여준 후 묻는다.

당신은 선택한 문을 바꾸시겠습니까?

번호를 바꾸는 것이 유리할 것인가, 그대로 있는 것이 유리할 것인가? 아니면, 바꾸든 안 바꾸든 스포츠카를 뽑을 확률은 그대로 일 것인가? 만일 당신이라면 어떻게 할 것인지?

나의 경우, 어줍잖은 확률 지식을 과신한 나머지

어차피 사회자가 문을 열든 말든, 내가 처음에 뽑았던 문이 자동차일 확률은 그대로 1/3 아닌가? 확률이 변할 이유가 없는데 괜히 사람을 현혹시키는군. 껄껄껄!

이렇게 생각해 버렸다. 하지만, 답은 과연 그럴까?

정답부터 이야기하자면, 선택한 문을 바꾸는 것이 확률 상으로 훨씬 좋다. 이는 분명히 직관에 의한 판단과 완전히 상반되는 결과이다. 그렇다면, 과연 왜 직관에 오류가 생겼을까?

몬티 홀 - 수학적 분석

일단, 수학적인 관점에서 생각해보자. 문 뒤에 스포츠카가 있을 경우를 O, 염소가 있는 경우를 X라고 하면, 여러분은 1/3의확률로 O를, 2/3의 확률로 X를 고른다. 사회자는 남은 2개의 문 중에서 X를 1개 제거해 주었다. 따라서, 최종 선택 단계에서 주어져 있는 두 개의 문 뒤에는 반드시 O 1개, X 1개가 남아있게 된다.

(바꾸지 않고 O를 뽑을 확률) = (처음에 O를 뽑을 확률)*1 + (처음에 X를 뽑을 확률)*0
(바꾸고 O를 뽑을 확률)        = (처음에 O를 뽑을 확률)*0 + (처음에 X를 뽑을 확률)*1

위는 이를 조건부 확률로 그럴 듯하게 쓴 것이지만, 생각해보면 처음에 O를 뽑은 경우 남은 것은 X, 처음에 X를 뽑은 경우 남은 것은 O가 되는 당연한 이치이다. 즉,

(바꾸지 않고 O를 뽑을 확률) = (처음에 O를 뽑을 확률)
(바꾸고 O를 뽑을 확률)        = (처음에 X를 뽑을 확률)

따라서, 중간에 선택을 바꿀 경우 2/3의 확률로 스포츠카를 갖게 된다. 바꾸지 않는 경우보다 확률이 2배나 높으니 당연히 해볼만 하지 않은가?

직관, 그리고 함정

몬티 홀 문제에서 직관 오류가 발생하는 원인은 사회자의 행동을 잘못 분석했기 때문이다. 사회자가 정말로 랜덤하게 문을 연다면1/3의 확률로 O, 2/3의 확률로 X가 나올 것이다. 이는 전체 경우의 수가 일어나는 공간(sample space)을 균일하게 줄어들게 한다. 확률은 전체 사건에 대해 특정한 사건이 일어나는 비율이므로, sample space가 균일하게 줄어들 경우 확률은 변하지 않는다. 즉, 선택을 바꾸든 안 바꾸든 여러분이 스포츠카를 얻을 확률은 1/3인 것이다. 다시 말하면, 여러분이 두 개의 문을 다 열더라도 나머지 1/3의 확률에 대해서는 절대 스포츠카를 얻을 수 없는 것이다.

하지만, 사회자는 이미 스포츠카가 어디 있는지를 알고 있으며 이를 뽑지 않기로 되어 있다. (스포츠카를 뽑지 못한다면 사회자한테 주는 룰은 어떨까?) 따라서, 사회자는 sample space를 축소시키기는 하는데, 그 와중에 여러분을 위해 스포츠카가 공중으로 사라지는 경우는 빼고 축소시키는 것이다. 이미 사회자는 여러분을 위해 불공정한 게임을 진행하고 있는 것이다.

나의 경우, 사회자가 1개의 문을 뽑아 없애는 과정에서 무작위성(randomness)이 어느 정도 사라진다는 점까지는 파악했다. 하지만, 그렇다고 해도 내가 맨 처음에 고른 녀석이 O인지 X인지와 관련된 확률은 변하지 않기 때문에 바꾸든 안 바꾸든 관계없다고 생각했다. 수학적인 풀이를 본 후에도 얼마간은 패닉 상태에 빠져서

이럴리가 없어. 이건 분명히 사기일꺼야!!!

라고 끝까지 우겨봤지만, 결국은 인정할 수 밖에 없었다.

몬티 홀에 대한 단상

직관은 순수 지성에 의해 발휘되는 매우 강력한 무기이다. 하지만, 그 밑바탕에는 세부적인, 그러나 자체로는 직관적이지 않을 수 있는 지식이 내재되어 있다. 직관은 정확한 지식에 뒷받침될수록 진실에 가까워지고 강력해진다.

보통 연구를 함에 있어서 가설을 세우고 이를 검증하는 방식을 많이 취하는데, 가설을 세울 때 직관이 하는 역할은 막중하다. 매우 작은 지식의 잘못으로부터 엉뚱한 직관이 이끌어지고, 이는 전혀 잘못된 방향으로의 결론을 향해 달려가게 한다. 따라서, 당연하게 생각되는 사소한 사실이라도 때로는 한번 쯤 의심해 볼 필요가 있지 않을까?