12장 내일도 해는 동쪽에서 뜰까

1. 석기시대 고인돌 가족 이야기

 

석기시대의 고인돌 가족에게 세상은 두려움 그 자체였다.

 

동굴에 사는 이 가족의 막내아들은 아침 해가 동굴 앞 작은 언덕 쪽에서 솟아오르는 모습을 발견한다.

 

내일도 언덕 쪽에서 해가 뜰까?

 

엄마는 해가 항상 동쪽에서 떠오른다고 말하지만 호기심 가득한 막내아들은 곧이곧대로 믿지 않는다.

 

막내아들은 이렇게 생각한다.

 

내일 해가 언덕 쪽에서 뜰지, 거꾸로 동굴 쪽에서 뜰지는 알 수 없다.

 

이튿날 막내아들은 해가 언덕 쪽에서 떠오르는 것을 보고 이렇게 생각한다.

 

어쩌면 해는 언덕 쪽에서만 떠오를지도 몰라.

 

다음 날도, 그 다음 날도, 해가 언덕 쪽에서 떠오르는 광경을 본 막내아들은 결국 엄마 말이 맞았다고 생각한다.

 

 

 

2. 베이즈의 정리를 이용한 기술

 

자연현상에 대한 막내아들의 무지를 확률로 표현해보자.

 

해가 동쪽에서만 뜬다는 엄마의 말(가설)과 제멋대로 뜬다는 막내아들의 가설 중 한쪽 손만을 들어줄 수 없다.

 

하지만 청개구리인 막내아들은 엄마의 가설이 사실일 확률이 1%, 자신의 확률은 99%라고 믿는다.

 

엄마의 가설이 사실이라면 해는 동쪽에서만 떠야 하지만, 막내의 가설이 사실일 때는 해가 오늘은 동쪽에서 내일은 서쪽에서 제멋대로 떠오를 것이다.

 

해가 남쪽이나 북쪽에서 뜨는 사건은 생각하지 않았다. 

 

해가 동쪽에서 뜰 비율과 서쪽에서 뜰 비율은 간단히 각각 50%라고 하자.

 

막내아들은 매일 아침 해가 떠오르는 방향을 관찰한 뒤 엄마의 가설이 사실일 확률을 업데이트한다.

 

해는 언제나 동쪽에서만 떠오를 것이므로 해돋이 방향은 오늘도 내일도 동쪽이다.

 

베이즈의 법칙을 이용하면 엄마의 가설이 사실일 때, 해가 동쪽에서 뜰 확률을 뒤집어 해가 동쪽에서 뜰 때, 엄마의 가설이 사실일 확률을 계산할 수 있다.

 

아직 아침이 밝기 전에 막내아들은 엄마의 가설이 맞을 확률은 고작 Pr('엄마 가설') = 0.01라고 생각한다.

 

동이 트고, 해가 동쪽에서 떠오르면 엄마의 가설이 사실일 확률은...

 

$$P('엄마 가설'|'해가 동쪽에서 떠오름') = \frac{P(해가 동쪽에서|엄마 가설)P(엄마 가설)}{P(해가 동쪽|엄마 가설)P(엄마 가설) + P(해가 동쪽에서|막내 가설)P(막내 가설)}$$

 

엄마의 가설인 '해가 동쪽에서 떠오름'이 참일 때, '해가 동쪽에서 떠오를'확률은 당연히 1이다.

 

엄마의 가설이 참일 확률을 0.01, 막내의 가설이 참일 확률을 0.99라고 생각헀고,

 

해는 동쪽이나 서쪽 둘 중 하나 50% 확률로 떠오른다고 가정했으므로...

 

$$P('엄마 가설'|'해가 동쪽에서 떠오름') = \frac{1*0.01}{1*0.01 + 0.5*0.99} = 0.0198$$

 

이틀이 지나면 이 확률은 3.9%로 상승하고, 단 보름(15일) 만에 99.7%까지 상승할 수 있다.

 

 

3. 베이즈 두뇌 가설

 

X는 동쪽에서 해가 뜬 횟수, Y는 엄마의 가설이 맞을 확률이라고 한다면...

 

해가 동쪽에서 떴을때, 엄마의 가설이 맞을 조건부 확률은...

 

 

 

하루가 지날때마다, 상승하는 엄마의 가설이 맞을 확률은 위 그래프와 같다.

 

날이 갈수록 데이터가 쌓이고, 이 데이터가 막내아들의 믿음을 업데이트한다.

 

새로운 현상을 탐구하는 우리의 두뇌는 이처럼 몇가지 가설을 두고 관찰과 상호작용의 데이터를 통해 그중에서 가장 그럴듯한 가설을 선택한다.

 

우리의 사고 과정이 이러한 확률 업데이트의 과정을 거친다는 주장이 곧 베이즈 두뇌 가설이다.

 

우리의 뇌가 실제로 이러한 과정을 거치는지 모르겠지만 현대의 인공지능 두뇌는 이와 같은 베이즈 두뇌 가설에 따라 스스로 학습한다.