DL의 PGM-Naive Bayes

Naive Bayes Classifier(나이브 베이즈 분류기)에서 실제로 원하는 것은 $P(Y|X_1, …, X_n)$이다.

• Bayes Theorem에 의해

  $\displaystyle P(Y|X_1,…,X_n) = \frac {P(Y) P(X_1,…,X_n|Y)} {P(X_1, …, X_n)}$

• Naive Bayes의 조건부 가정

  $\displaystyle P(X_1, …, X_n) = \prod_{i=1}^{n} P(X_i|Y)$

을 사용한다. 따라서

$\displaystyle P(Y|X_1, …, X_n) \propto P(Y) \prod_{i=1}^{n} P(X_i|Y)$

가 된다.

• 분류에서는 가장 큰 posterior probability를 갖는 클래스를 선택한다.

  $\displaystyle \hat{y} = \argmax_y P(y) \prod_i P(x_i|y)$