조건부독립의 성질

만약 $w_{1},w_{2},...w_{n}$이 $c$가 주어질 때 서로 조건부독립이라면

 

$$P(w _{1},w _{2},....,w _{n}|c)= \prod _{i=1} ^{n} P(w _{i} |c)$$ 이다?

 

$n=2$라고 한다면

 

$$P(w _{1}|w _{2} ,c)=P(w _{1} |c)$$ 이므로 $$\frac{P(w _{1} ,w _{2} ,c)}{P(w _{2} ,c)}=\frac{P(w _{1} ,c)}{P(c)}$$

 

식을 정리하면

 

$$\frac{P(w _{1} ,w _{2} ,c)}{P(c)}= \frac{P(w _{1} ,c)}{P(c)}\frac{P(w _{2} ,c)}{P(c)}$$

 

그러므로

 

$$P(w _{1},w _{2}|c)=P(w _{1} |c)P(w _{2} |c)$$

 

$n=k$에서 식이 성립한다고 가정하자.

 

$$P(w _{1},w _{2},....,w _{k}|c)= \prod _{i=1} ^{k} P(w _{i} |c)$$

 

n=k+1에서

 

$$P(w _{1},w _{2},....,w _{k+1}|c)= \frac{P(w _{1} ,w _{2} ,....,w _{k} ,w _{k+1} ,c)}{P(c)}$$

 

에서 식을 조절하여

 

$$P(w _{1},w _{2},....,w _{k+1}|c)= \frac{P(w _{1} ,w _{2} ,....,w _{k} ,w _{k+1} ,c)}{P(w _{k+1} ,c)}\frac{P(w _{k+1} ,c)}{P(c)}$$

 

그러므로

 

$$P(w _{1},w _{2},....,w _{k+1}|c)=P(w _{1} ,w _{2} ,....,w _{k} |w _{k+1} ,c)P(w _{k+1} |c)$$

 

그런데 $w_{1},w_{2},...w_{n}$이 $c$가 주어질 때 서로 조건부독립이므로

 

$$P(w _{1} ,w _{2} ,....,w _{k} |w _{k+1} ,c)=P(w _{1} ,w _{2} ,....,w _{k} |c)$$

 

그런데 $$P(w _{1},w _{2},....,w _{k}|c)= \prod _{i=1} ^{k} P(w _{i} |c)$$ 이므로

 

$$P(w _{1},w _{2},....,w _{k+1}|c)=P(w _{k+1} |c)\prod _{i=1} ^{k} P(w _{i} |c)=\prod _{i=1} ^{k+1} P(w _{i} |c)$$

 

따라서 $n=k+1$에도 성립한다.

 

모든 자연수 $n$에 대하여

 

만약 $w_{1},w_{2},...w_{n}$이 $c$가 주어질 때 서로 조건부독립이라면

 

$$P(w _{1},w _{2},....,w _{n}|c)= \prod _{i=1} ^{n} P(w _{i} |c)$$