Model Gaussian

Fungsi kepadatan peluang dari vektor acak berdimensi d memiliki distribusi Normal multivariabel dengan rataan \mu dan matriks cov-var \Sigma dapat dituliskan sebagai berikut:
f(x|\mu,\Sigma)=\frac{1}{(2\pi)^{d/2}|\Sigma|^{1/2}} \exp\left\{-(x-\mu)^T\Sigma^{-1}(x-\mu)\right\}
Untuk mengestimasi parameter-parameter dalam fungsi di atas kita menggunakan bantuan formula-formula berikut:

  1.  \frac{\partial \mu^T\Sigma^{-1}\mu}{\partial \mu}=2\Sigma^{-1}\mu
  2. \frac{\partial x^T\Sigma^{-1}\mu}{\partial \mu}=\Sigma^{-1}x
  3. \frac{\partial x^T\Sigma^{-1}x}{\partial \Sigma}=-\Sigma^{-1}xx^T\Sigma^{-1}
  4. \frac{\partial \log(det(\Sigma))}{\partial \Sigma}=\Sigma^{-1}
  5. \frac{\partial tr(A^{-1}\Sigma)}{\partial \Sigma}=A^{-1}

Untuk data observasi \{x_i\}_{i=1}^n yang saling bebas dan berdistribusi identik N(\mu,\Sigma), fungsi loglikelihoodnya dapat dituliskan sebagai berikut:

\log L(\mu,\Sigma)=-\frac{nd \log(2\pi)}{2}-\frac{n \log(det(\Sigma))}{2}-\frac{1}{2}\sum_{i=1}^n (x_i-\mu)^T\Sigma^{-1}(x_i-\mu)

Leave a Reply

Your email address will not be published. Required fields are marked *

*

You may use these HTML tags and attributes: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>