【机器学习】【条件随机场CRF-3】条件随机场的参数化形式详解 + 画出对应的状态路径图 + 给出对应的矩阵表示...
1.條件隨機場概念
CRF,Conditional Random Field,是給定一組輸入隨機變量條件下另一組輸出隨機變量的條件概率分布模式,其特點是假設(shè)輸出隨機變量構(gòu)成馬爾可夫隨機場。
條件隨機場用于不同的預(yù)測問題。CRF條件隨機場是給定隨機變量X時,隨機變量Y的馬爾可夫隨機場。
有一種條件隨機場是線性鏈條件隨機場(Linear Chain Conditional Random Field)。線性鏈條件隨機場可以用于標注等問題。then,在條件概率P(Y|X)中,Y是輸出變量,表示標記序列,X是輸入變量,表示需要標注的觀測序列。也把標記序列稱為狀態(tài)序列(見隱馬爾可夫模型)。
2.條件隨機場的參數(shù)化形式
現(xiàn)在有一標注問題:輸入觀測序列為X=(X1,X2,X3),輸出標記序列為Y=(Y1,Y2,Y3),Y1,Y2,Y3取值于{1,2}.
假設(shè)特征t<k>,s<l>的對應(yīng)的權(quán)值為λ<k>,μ<l>,公式如下所示:
?
這里只注明特征取值為1的條件,取值為0的條件省略,如下:
?
下同
?
說明:t<k>是定義在邊上的特征函數(shù),稱為轉(zhuǎn)移特征,依賴于當前和前一個位置,s<l>是定義在節(jié)點上的特征函數(shù),稱為狀態(tài)特征,依賴于當前位置。這部分內(nèi)容屬于:條件隨機場的參數(shù)形式的知識。關(guān)于條件隨機場的參數(shù)化形式,詳見前面博客:點我。
3.參數(shù)化形式對應(yīng)的狀態(tài)路徑圖
《統(tǒng)計學(xué)習(xí)方法》中這個示例,作者沒有給出這個條件隨機場的參數(shù)化形式 對應(yīng)的狀態(tài)路徑圖。看著這個參數(shù)形式t<k>和s<l>理解其對應(yīng)的條件隨機場,是不太形象的,也不好理解。
所以下面人肉給出了此條件隨機場的參數(shù)化形式對應(yīng)的狀態(tài)路徑圖,看著此圖會發(fā)現(xiàn),it's so easy~,有木有,詳見下圖:
?
上圖中給出了對t和s函數(shù)的理解,如果仔細看,應(yīng)該很容易清楚其含義,然后就很容易地畫出條件隨機場的參數(shù)化形式對應(yīng)的狀態(tài)路徑圖~
4.參數(shù)化形式對應(yīng)的矩陣表示
S矩陣表示定義到節(jié)點上的特征函數(shù)S(l),
SW矩陣表示每個節(jié)點的權(quán)值
E矩陣表示定義在邊上的特征函數(shù)T(k),也稱轉(zhuǎn)移特征
EW矩陣表示每個轉(zhuǎn)移特征T(k)的權(quán)值
S = np.array([[1,1], #X1:S(Y1=1), S(Y1=2)
[1,1], #X2:S(Y2=1), S(Y2=2)
[1,1]]) #X3:S(Y3=1), S(Y3=1)
SW = np.array([[1.0, 0.5], #X1:SW(Y1=1), SW(Y1=2)
[0.8, 0.5], #X2:SW(Y2=1), SW(Y2=2)
[0.8, 0.5]])#X3:SW(Y3=1), SW(Y3=1)
E = np.array([[[1, 1], #Edge:Y1=1--->(Y2=1, Y2=2)
[1, 0]], #Edge:Y1=2--->(Y2=1, Y2=2)
[[0, 1], #Edge:Y2=1--->(Y3=1, Y3=2)
[1, 1]]])#Edge:Y2=2--->(Y3=1, Y3=2)
EW= np.array([[[0.6, 1], #EdgeW:Y1=1--->(Y2=1, Y2=2)
[1, 0.0]], #EdgeW:Y1=2--->(Y2=1, Y2=2)
[[0.0, 1], #EdgeW:Y2=1--->(Y3=1, Y3=2)
[1, 0.2]]])#EdgeW:Y2=2--->(Y3=1, Y3=2)
也就是說上面W,SW,E,EW這四個矩陣就表示了上面參數(shù)化形式表示的條件隨機場,參數(shù)化形式表示的條件隨機場和矩陣形式表示的條件隨機場,以及狀態(tài)路徑圖表示的條件隨機場都是等價的。
?
到此,條件隨機場的參數(shù)化形式解釋結(jié)束了。
(end)
---------------------
作者:CV_ML_DP
來源:CSDN
原文:https://blog.csdn.net/u012421852/article/details/80344965
版權(quán)聲明:本文為博主原創(chuàng)文章,轉(zhuǎn)載請附上博文鏈接!
總結(jié)
以上是生活随笔為你收集整理的【机器学习】【条件随机场CRF-3】条件随机场的参数化形式详解 + 画出对应的状态路径图 + 给出对应的矩阵表示...的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 条件随机场(CRF) - 4 - 学习方
- 下一篇: Python3 reversed 函数