文章目錄

• 一. 馬爾可夫鏈以及隱馬爾可夫模型
• • 1.1 概念
  • 1.2 舉例說明隱馬爾可夫模型
• 二. 貝葉斯網(wǎng)絡(luò)
• 三. 因子圖

貝葉斯網(wǎng)絡(luò)是很多概率模型的基礎(chǔ)，對于slam研究也是一項(xiàng)必須掌握的數(shù)學(xué)理論工具。

一. 馬爾可夫鏈以及隱馬爾可夫模型

1.1 概念

我們先來了解一下馬爾可夫相關(guān)的概念。

馬爾可夫性質(zhì)(Markov property)：在隨機(jī)過程中，未來狀態(tài)的條件概率分布僅依賴于當(dāng)前狀態(tài)，而與過去狀態(tài)無關(guān)。

馬爾可夫鏈(Markov chain)：又稱離散時(shí)間馬爾科夫鏈（discrete-time Markov chain，縮寫為DTMC）。下一狀態(tài)的概率分布只能由當(dāng)前狀態(tài)決定，與時(shí)間序列中前面的狀態(tài)無關(guān)。其實(shí)也就是馬爾可夫性質(zhì)。在馬爾可夫鏈的每一步，系統(tǒng)根據(jù)概率分布，可以從一個(gè)狀態(tài)變到另一個(gè)狀態(tài)，也可以保持當(dāng)前狀態(tài)。狀態(tài)的改變叫做轉(zhuǎn)移，與不同的狀態(tài)改變相關(guān)的概率叫做轉(zhuǎn)移概率。

隱馬爾可夫模型（Hidden Markov Model，HMM）是統(tǒng)計(jì)模型，其描述一個(gè)含有隱含未知參數(shù)的馬爾可夫過程。其難點(diǎn)是從可觀察的參數(shù)中確定該過程的隱含參數(shù)，然后利用這些參數(shù)來進(jìn)一步的分析。

• 馬爾可夫模型中，狀態(tài)對于觀察者來說是直接可見的，狀態(tài)的轉(zhuǎn)移概率便是全部的參數(shù)。
• 隱馬爾可夫模型中，狀態(tài)并不是直接可見的，但受狀態(tài)影響的某些變量是可見的。每一個(gè)狀態(tài)在可能輸出的符號(hào)上都有一概率分布。因此輸出符號(hào)的序列能夠透露出狀態(tài)序列的一些信息。

1.2 舉例說明隱馬爾可夫模型

假如你有三種骰子D4,D6,D8,分別表示骰子為4，6，8面體，其中D6為最常見的骰子，他們每個(gè)面出現(xiàn)的概率分別為1/4,1/6,1/8。
現(xiàn)在假設(shè)你隨機(jī)從里面選一個(gè)骰子，然后得到一串?dāng)?shù)字：1 6 3 5 2 7 3 5 2 4。這串?dāng)?shù)字叫可見狀態(tài)鏈。除此之外你還有一串隱含狀態(tài)鏈，也就是骰子的序列，比如可能為：D6 D8 D8 D6 D4 D8 D6 D6 D4 D8。這個(gè)過程如下：

HMM中說到的馬爾可夫鏈其實(shí)是指隱含狀態(tài)鏈，因?yàn)殡[含狀態(tài)（骰子）之間存在轉(zhuǎn)換概率（transition probability）。在我們這個(gè)例子里，D6的下一個(gè)狀態(tài)是D4，D6，D8的概率都是1/3。D4，D8的下一個(gè)狀態(tài)是D4，D6，D8的轉(zhuǎn)換概率也都一樣是1/3。這樣設(shè)定是為了最開始容易說清楚，但是我們其實(shí)是可以隨意設(shè)定轉(zhuǎn)換概率的。比如，我們可以這樣定義，D6后面不能接D4，D6后面是D6的概率是0.9，是D8的概率是0.1。這樣就是一個(gè)新的HMM。

隱馬爾可夫模型的應(yīng)用：

預(yù)測(filter)：已知模型參數(shù)和某一特定輸出序列，求最后時(shí)刻各個(gè)隱含狀態(tài)的概率分布。
平滑(smoothing)：已知模型參數(shù)和某一特定輸出序列，求中間時(shí)刻各個(gè)隱含狀態(tài)的概率分布. 通常使用forward-backward> 算法解決。
解碼(most likely explanation): 已知模型參數(shù)，尋找最可能的能產(chǎn)生某一特定輸出序列的隱含狀態(tài)的序列，
通常使用Viterbi算法解決。

二. 貝葉斯網(wǎng)絡(luò)

貝葉斯網(wǎng)絡(luò)(Bayesian network)，又稱信念網(wǎng)絡(luò)(Belief Network)，或有向無環(huán)圖模型(directed acyclic graphical model)，是一種概率圖模型，于1985年由Judea Pearl首先提出。它是一種模擬人類推理過程中因果關(guān)系的不確定性處理模型，其網(wǎng)絡(luò)拓樸結(jié)構(gòu)是一個(gè)有向無環(huán)圖(Directed Acyclic Graph)。
節(jié)點(diǎn)：表示一個(gè)屬性。它們可以是觀察到的變量或隱變量、未知參數(shù)等。
節(jié)點(diǎn)間（弧）：代表屬性間的概率依賴關(guān)系P(B|A)。

一條弧由一個(gè)屬性A指向另外一個(gè)屬性B，說明屬性A的取值可以對屬性B的取值產(chǎn)生影響，由于是有向無環(huán)圖，A、B間不會(huì)出現(xiàn)有向回路。
A：弧尾，因，parents
B：弧頭，果，children

1. head-to-head

由上圖可知：P(a,b,c)=P(a)P(b)P(c|a,b)成立。a，b為獨(dú)立的。

2. tail-to-tail

c未知的情況下：P(a,b,c)=P?P(a|c)P(b|c)，此時(shí)沒法得出P(a,b) = P(a)P(b),所以a，b不獨(dú)立
c已知的情況下：P(a,b|c)=P(a,b,c)/P?，a，b獨(dú)立。

3. head-to-tail

c未知的情況：P(a,b,c)=P(a)P(c|a)P(b|c)，但不能推出P(a,b) = P(a)P(b)，a，b不獨(dú)立。
c已知的情況：a，b獨(dú)立。

head-to-tail其實(shí)就是一個(gè)鏈?zhǔn)骄W(wǎng)絡(luò)，且它為馬爾科夫鏈。

三. 因子圖

所謂因子圖就是對函數(shù)進(jìn)行因子分解得到的一種概率圖。一般包含兩個(gè)節(jié)點(diǎn)，變量節(jié)點(diǎn)和函數(shù)節(jié)點(diǎn)。我們知道，一個(gè)全局函數(shù)通過因式分解能夠分解為多個(gè)局部函數(shù)的乘積，這些局部函數(shù)和對應(yīng)的變量關(guān)系就體現(xiàn)在因子圖上。
$$g(x_1,x_2,x_3,x_4,x_5)=f_A(x_1)f_B(x_2)f_C(x1,x2,x3)f_D(x_3,x_4)f_E(x_3,x_5)$$
其中$f_A,f_B,f_C,f_D,f_E$為各函數(shù)，表示變量直接的關(guān)系，可以是條件概率也可以是其他關(guān)系，對應(yīng)的因子圖為：

或者：

參考：
https://www.cnblogs.com/skyme/p/4651331.html
https://blog.csdn.net/v_july_v/article/details/40984699

總結(jié)

以上是生活随笔為你收集整理的马尔可夫链、隐马尔科夫模型、贝叶斯网络、因子图的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。