Probabilistic Graphical Model

Probabilistic Graphical Model(확률적 그래프 모형; PGM)은확률론과 그래프 이론을 결합하여 많은 확률변수들 사이의 의존 관계를 구조적으로 표현하고 추론하기 위한 모델이다.

• Probability: 여러 확률변수의 결합확률분포를 정의
• Graph: 확률변수를 노드로, 변수 간 조건부 의존성을 엣지로 표현
• Factorization: 전체 결합확률을 작은 국소 확률들의 곱으로 분해

Basic

• Conditional Independence
  • D-separation
  • I-map
• Directed Graphical Model
  • Bayesian Network
  • Hidden Markov Model
• Undirected Graphical Model
  • Markov Random Field
  • Conditional Random Field
• Factor Graph
• Belief Propagation
  • Message Passing
  • [Option] Junction Tree Algorithm

Models

• Gaussian Mixture Model
• EM Algorithm
• Markov Chain Monte Calro(MCMC)
  • Gibbs Sampling
• Autoregressive Model(AR Model)
• Generative Adversarial Network(GAN)
• Variational Autoencoder(VAE)
• Normalizing Flow(NF)
• Diffusion Model