http://www.nature.com/nbt/journal/v26/n8/full/nbt1406.html

對于最大似然概率的推導可以參考本系列中的文章

也就是說要求的是拋硬幣A是正面的概率p(A), 和拋硬幣B是正面的概率p(B)

一共做了五組實驗，其中三組是拋10次A，正面的次數。

對于這三組的現象的概率是 p(data|A)=p(h|A)*(1-p(h|a))...p(h|A)

兩邊去對數，讓其導數為0， 就可以計算出p(h|A)

為什么要讓概率最大？這是因為這三組實驗的結果就是在p(h|A)的概率分布下最有可能出現的現象。

對于EM：

也是同樣做了5組拋硬幣的實驗，但是對于每組實驗不知道是用A或者B做的實驗，目的還是求p(A), p(B)

1. 設初始概率為p(A)=0.6, p(B) = 0.5

2. E步，當第一組是用A實驗，可以求出第一組現象出現的概率，再求出用B做實驗，第一組現象出現的概率，然后就可以計算出第一組數據用A或者B做實驗的概率，0.6^5*（1-0.6）^5/0.5^10 = 0.445/0.55

然后可以算出A和B出現正面的期望Exception

3. M步，根據E步算出的Exception計算出p(A),p(B), 根據的是最大(Maximization)期望對數似然

總結

以上是生活随笔為你收集整理的What is the expectation maximization algorithm?的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。