Skip to content

Latest commit

 

History

History
52 lines (46 loc) · 1.51 KB

ex_04_01-10.org

File metadata and controls

52 lines (46 loc) · 1.51 KB

PRML 第4章 演習 4.1-4.10

PRML 第4章 演習 4.1-4.10

4.1

4.2

4.3

4.4

4.5

4.6

4.7

4.8

4.9 [www] 多クラス分類問題の生成モデルによる最尤解

尤度関数 \begin{align*} p(\{\bphi_n,\t_n\}|\{π_k\}) = & ∏n=1^N ∏k=1^K [p(C_k) p(\bphi_n|C_k)]t_{nk}
= & ∏n=1^N ∏k=1^K [π_k p(\bphi_n|C_k)]t_{nk} \ ln p(\{\bphi_n,\t_n\}|\{π_k\}) = & ∑n=1^N ∑k=1^K tnk [ln π_k + ln p(\bphi_n|C_k)] \ \end{align*}

\(∑_k π_k = 1\)という制約のもとで対数尤度関数を最大化する\(π_k\)を求めるため、 ラグランジュの未定係数法を用いる。 \begin{align*} L(\{π_k\},λ) = & ln p(\{\bphi_n,\t_n\}|\{π_k\})

  • λ \l( ∑_k π_k - 1 \r)

\end{align*}

\begin{align*} & \p{}{π_k} L(\{π_k\},λ)
= & ∑n=1^N ∑j=1^K tnj \p{}{π_k} ln π_j

  • \p{}{π_k} λ \l( ∑_k π_k - 1 \r)

= & ∑n=1^N ∑j=1^K tnj Ijk \f{1}{π_j} + λ
= & \f{1}{π_k} ∑n=1^N tnk + λ \ = & \f{1}{π_k} N_k + λ \ \end{align*}

\begin{align*} 0 = & \f{1}{π_k} N_k + λ

  • λ π_k = & N_k

\end{align*}

\begin{align*}

  • λ ∑_k π_k = & ∑_k N_k
  • λ = & N

\end{align*}

\begin{align*} π_k = & \f{N_k}{N}
\end{align*}

4.10