第10章,隱馬爾可夫模型(相關的python開源包是hmmlearn)
本章結構:

$$隱馬爾可夫模型相關內容=?\begin{array}{r}概率計算方法=?\begin{array}{r}直接計算法(計算量過大)\\ 前向算法\\ 后向算法\end{array}\\ 學習算法=\{\begin{array}{r}監督學習方法\\ Bsum?Welch算法\end{array}\\ 預測算法=\{\begin{array}{r}近似算法\\ 維特比算法\end{array}\end{array}$$

上述的三個小括號分別用來解決隱馬爾科夫模型的三個問題:
(1)概率計算問題
(2)學習問題
(3)預測問題

書上的例子為:

|盒子|1 | 2 |3|4|
|–|--|–|--|
|紅球數| 5 | 3 | 6 |8|
|白球數| 5 | 7 | 4 |2|
狀態集合:
Q={盒子1,盒子2,盒子3,盒子4}

觀測集合:
V={紅,白}

初始概率分布$\pi$=$(0.25,0.25,0.25,0.25{)}^T$

狀態轉移概率分布:

$$A=?\begin{array}{cccc}0& 1& 0& 0\\ 0.4& 0& 0.6& 0\\ 0& 0.4& 0& 0.6\\ 0& 0& 0.5& 0.5\end{array}?$$

觀測概率:
$$B=?\begin{array}{cc}0.5& 0.5\\ 0.3& 0.7\\ 0.6& 0.4\\ 0.8& 0.2\end{array}?$$
觀測概率矩陣第一列的意思就是每個盒子能觀察到多少紅色球.

#概率計算問題

10.2.1直接計算法

模型$\lambda =(A,B,\pi )$
"想要的"的觀測序列:$O=(o_1,o_2,???,o_T)$
根據模型判斷上述觀測序列出現的概率$P(O|\lambda )$

$$P(I|\lambda )={\pi }_{i_1}?{\alpha }_{i_1{i}_2}?{\alpha }_{i_2{i}_3}???{\alpha }_{i_{T?1}{i}_T}$$
這里的${\pi }_{i_1}$指的是你在"初始概率分布$\pi$"序列中的第$i_1$個狀態.

####然后是書上原話(start)#####################
對于固定的狀態序列$I=(i_1,i_2,???,i_T)$,觀測序列$O=(o_1,o_2,???,o_T)$的概率是
$P(O|I,\lambda )=b_{i_1}(o_1)b_{i_2}(o_2)???b_{i_T}(o_T)$

這個說法很拗口,這個"固定的狀態序列"是啥意思?
也就是說整個隱馬爾科夫轉移過程還沒發生,自己YY了一個狀態轉移序列,想知道這種序列發生的可能性.

上面提到的"觀測序列"的意思是:我想要的"這個盒子之間跳轉來、跳轉去的序列I"輸入這個模型$\lambda$以后,出來我想要的"球顏色序列O"的概率多大
這里的I:input
這里的O:output
#######然后是書上原話(end)###################

O和I同時出現的聯合概率是:
$$P(O,I|\lambda )$$
$$=P(O|I,\lambda )?P(I|\lambda )$$
$$={\pi }_{i_1}{b}_{i_1}(o_1)a_{i_1{i}_2}?b_{i_2}(o_2)???a_{i_{T?1}{i}_T}{b}_{i_T}(o_T)$$

因為目標是$P(O|\lambda )$
$$P(O|\lambda )=\sum _{I}P(O|I,\lambda )P(I|\lambda )$$
$$=\sum _{i_1,i_2,???,i_T}{\pi }_{i_1}{b}_{i_1}(o_1)a_{i_1{i}_2}?b_{i_2}(o_2)???a_{i_{T?1}{i}_T}{b}_{i_T}(o_T)$$

上面的東西呢,沒啥用(因為計算復雜度太高),但是呢,還是要縷清楚,因為這樣就知道這個"概率計算算法"是干嘛的了,也就是說:
給個模型,輸入個序列(盒子狀態序列),出來想要的序列(球顏色序列)概率是多少.

為了收拾這個爛攤子呢,出來了"前向算法"和"后向算法",注意,這兩個算法和神經網絡中的前向傳輸、后向傳輸沒有任何關系.

#概率計算問題(完)

總結

以上是生活随笔為你收集整理的李航-HMM-直接计算法的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。