文章目錄

• 1 隱馬爾科夫模型定義
• 2 概率計算算法
• • 2.1 前向概率
  • 2.2 概率計算
• 3 學習算法
• • 3.1 EM算法
  • 3.2EM在HMM
• 4 預測算法

1 隱馬爾科夫模型定義

隱馬爾科夫模型是一個seq2seq模型。例如詞性標注。

時間序列t1t2t3

狀態序列	代詞	動詞	名詞
觀察序列	我	愛	機器學習

能夠看到的，例如詞語是觀察序列。看不到的部分是狀態序列，例如詞性。
狀態集合：$Q=\{q_1,q_2,...q_N\}$,$|Q|=N$
觀察集合：$V=\{v_1,v_2,...v_M\}$,$|V|=M$
強定義：狀態是觀測不到的，類比于心理活動。觀察是可以看到的，類比于面部表情。

狀態序列：$I=\{i_1,i_2,...i_t...i_T\}$, $i_t\in Q$, (t=1,2,…T)
觀察序列：$O=\{o_1,o_2,...o_t,....o_T\}$, $o_i\in V$, (t=1,2,…T)

• 序列與集合是不同的。序列中的元素是有前后順序的。
• 總的時刻用T表示
• 強定義：每個時刻的觀察只與這個時刻的狀態有關系。（心理活動影響了面部表情）

狀態轉移矩陣：是從一個狀態轉移到另外一個狀態的概率。例如從代詞轉到動詞的概率。$A=[a_{ij}{]}_{N?N}$，表示從狀態i到狀態j的轉換概率。在t時刻，處于狀態$q_i$條件下，在t+1時刻，轉移到狀態$q_j$的概率$$a_{ij}=P(i_{t+1}=q_j|i_t=q_i)$$

觀測概率矩陣：$B=[b_j(k){]}_{N?M}$。在t時刻處于狀態$q_j$下生成觀測$v_k$的概率$$b_j(k)=P(o_t=v_k|i_t=q_j)$$

初始概率向量：$\pi =({\pi }_i)$，在t=1的時刻，狀態處于$q_i$的概率。${\pi }_i=P(i_1=q_i)$,$\pi$是一個N維向量。

隱馬爾科夫模型：$$\lambda =(A,B,\pi )$$

以上可以成立的假設是：
1 ?次?爾科夫性假設：在任意時刻t的狀態只依賴于t-1時刻的狀態。
$$P(i_t|i_{t?1,},o_{t?1},...i_1,o_1)=P(i_t|i_{t?1})$$

2 觀測獨立性假設：任意時刻t的觀測只與t時刻的狀態有關。
$$P(o_t|i_t,i_{t?1}...i_1,o_{t?1},o_{t?2}...o_1)=P(o_t|i_t)$$

觀測序列生成算法
輸入：隱馬爾科夫模型$\lambda =(A,B,\pi )$，觀測序列長度T
輸出：觀測序列$O=o_1,o_2,...,o_T$

HMM三個問題
1 概率計算，已知$\lambda =(A,B,\pi )$和$O=o_1,o_2,...,o_T$，計算$P(O|\lambda )$
在模型已知的情況下，出現觀測序列的概率

2 學習：已知$O=o_1,o_2,...,o_T$，計算${\lambda }^{?}=argmaxP(O|\lambda )$
已知觀測序列，計算模型，計算得到的模型應該是使得觀測序列的概率最大。

3 預測/編碼問題：已知$\lambda =(A,B,\pi )$和$O=o_1,o_2,...,o_T$，計算$I^{?}=argmaxP(I|O\lambda )$
已知模型和觀測序列，計算概率最大的狀態序列。

2 概率計算算法

2.1 前向概率

給定模型$\lambda$，時刻t部分觀測序列為$o_1,o_2,...,o_t$且狀態為$q_i$的概率
遞推公式:

這一步是簡寫，用$O_1^t$ 表示從1到t時刻的觀察序列。

當$i_t=q_i$的時候，在$t?1$時刻的狀態可能為$q_1,q_2,...q_N$，那么$P(i_t=q_i)=P(i_t=q_i|i_{t?1}=q_1)+P(i_t=q_i|i_{t?1}=q_2)+...+P(i_t=q_i|i_{t?1}=q_N)$，根據加法公式得到這一步遞推。

這一步利用的是乘法公式：P(AB)=P(A|B)P(B)
在這里A=$i_t=q_i,o_t$,B=$i_{t?1}=q_j,o_1^{t?1}$

根據定義$P(i_{t?1}=q_j,o_1^{t?1})={\alpha }_{t?1}(j)$
能夠省略公式中的$o_1^{t?1}$是因為假設，t時刻的狀態只與t-1時刻的狀態有關，t時刻的觀察只與t時刻的狀態有關。所以可以去掉。

這里同樣是利用乘法規則做變換。：P(AB)=P(A|B)P(B)
在這里A=$o_t$,B=$i_t=q_i$

這一步替換是根據A方程和B方程的定義來的。

2.2 概率計算

具體計算過程可以通過前向或者后向計算得到。

3 學習算法

已知$O=o_1,o_2,...,o_T$，計算${\lambda }^{?}=argmaxP(O|\lambda )$
已知觀測序列，計算模型，計算得到的模型應該是使得觀測序列的概率最大。

EM算法是一個一般算法，涉及兩類數據，一類數據已知，一類數據未知的時候，可以用EM。

3.1 EM算法

EM算法中觀測變量Y 對應 觀測序列
EM算法中隱隨機變量Z 對應 狀態序列
含有隱變量 的概率模型，?標是極?化觀測變量 關于參數 的對數似然函數，即$ma{x}_{\theta }L(\theta )$
其中
$L(\theta )=logP(Y|\theta )$
$=log{\sum }_{Z}P(Y,Z|\theta )$(邊緣概率到聯合概率)
$=log{\sum }_{Z}P(Y|Z,\theta )P(Z|\theta )$ (乘法規則)

對數似然函數𝐿 (𝜃)與第𝑖次迭代后的對數似然函數$L({\theta }^{(i)})$的差 :

根據Jensen不等式

將上面的式子做以下變形，

得到:$L(\theta )>=B(\theta ,{\theta }^{(i)})$，$B(\theta ,{\theta }^{(i)})$是一個下界函數。如果不斷找到下界函數的最大值，就近似找到了上界函數的最大值。

記$Q=argma{x}_{\theta }({\sum }_{Z}P(Z|Y,{\theta }^{(i)})logP(Y,Z|\theta ))$

3.2EM在HMM

對于HMM而言
$\theta$就是(A,B,π)
Z就是狀態序列I
Y就是觀測序列O

隱馬爾科夫模型是含有隱變量的概率模型：$P(O|\lambda )=\sum P(O|I,\lambda )P(I|\lambda )$

完全數據$(O,I)=(o_1,o_2...o_T,i_1,i_2,...i_T)$

完全數據的對數似然函數$logP(O,I|\lambda )$

$Q(\lambda ,{\lambda }^{?})$函數

使用Baum-Welch算法完成學習過程。

4 預測算法

已知$\lambda =(A,B,\pi )$和$O=o_1,o_2,...,o_T$，計算$I^{?}=argmaxP(I|O\lambda )$
已知模型和觀測序列，計算概率最大的狀態序列。
在時刻𝑡狀態為𝑖的所有單個路徑(𝑖1, 𝑖2, ? , 𝑖𝑡)中概率最?值

得到遞推公式：

這是一個動態規劃的過程。在求得${\delta }_T(i)$取得最大概率的i，經過倒推獲得整個I序列。

總結

以上是生活随笔為你收集整理的第九章 隐马尔科夫模型HMM的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。