人工智能 4.不确定性推理方法
目錄
?
概述
不確定性推理的含義
基本問題
不確定性推理的類型
可信度推理模型
知識不確定性的表示:
可信度的定義:
可信度的性質
證據不確定性的表示
不確定性的更新
結論不確定性的合成
主觀Bayes方法的概率論基礎
全概率公式
Bayes公式
推導
知識不確定性的表示
證據不確定性的表示
不確定性的更新
概述
不確定性推理的含義
泛指除精確推理以外的其它各種推理問題。包括不完備、不精確知識的推理,模糊知識的推理,非單調性推理等。
采用不確定性推理因:
??? 所需知識不完備、不精確
??? 所需知識描述模糊
??? 多種原因導致同一結論
解題方案不唯一
基本問題
不確定性的表示:
(1) 知識的不確定性的表示
??? 含義:知識的確定性程度,或動態強度
??? 表示:用概率,在[0,1]區間取值,越接近于0越假,越接近于1越真
????????? 用可信度,在[-1,1]區間取值,大于0接近于真,小于0接近于假
????????? 用隸屬度,在[0,1]區間取值,越接近于0隸屬度越低,反之越高
(2) 證據不確定性的表示
??? 證據的類型:按組織:基本證據,組合證據
??????????????? 按來源:初始證據,中間結論
??? 表示方法:概率,可信度,隸屬度等
??? 基本證據:常與知識表示方法一致,如概率,可信度,隸屬度等
??? 組合證據:組合方式:析取的關系,合取的關系。
????????????? 計算方法:基于基本證據,最大最小方法,概率方法,有界方法 等。
不確定性的匹配:
含義
??? 不確定的前提條件與不確定的事實匹配
問題
??? 前提是不確定的,事實也是不確定的
方法
??? 設計一個計算相似程度的算法,給出相似的限度
標志
相似度落在規定限度內為匹配,否則為不匹配
不確定性的更新,不確定性結論的合成:
4. 不確定性的更新
??? 主要問題
??? ① 如何用證據的不確定性去更新結論的不確定性
??? ② 如何在推理中把初始證據的不確定性傳遞給最終結論
??? 解決方法
??? 對①,不同推理方法的解決方法不同
??? 對②,不同推理方法的解決方法基本相同,即把當前結論及其不確定性作為新的結論放入綜合數據庫,依次傳遞,直到得出最終結論
5. 不確定性結論的合成
??? 含義:多個不同知識推出同一結論,且不確定性程度不同
方法:視不同推理方法而定
不確定性推理的類型
?
可信度推理模型
知識不確定性的表示:
表示形式:
??? 在C-F模型中,知識是用產生式規則表示的,其一般形式為:
??????????? IF?? E?? THEN?? H? (CF(H, E))
其中,E是知識的前提條件;H是知識的結論;CF(H, E)是知識的可信度。
??? 說明:
???? ①? E可以是單一條件,也可以是復合條件。
???? ②? H可以是單一結論,也可以是多個結論
???? ③? CF是知識的靜態強度,CF(H, E)的取值為[-1, 1],表示當E為真時,證據對H的支持程度,其值越大,支持程度越大。
???? 例子:
?????????? IF?? 發燒??? AND? 流鼻涕?? THEN?? 感冒?? (0.8)
表示當某人確實有“發燒”及“流鼻涕”癥狀時,則有80%的把握是患了感冒。
可信度的定義:
在CF模型中,把CF(H, E)定義為
?????????? CF(H, E)=MB(H, E)-MD(H, E)
式中MB稱為信任增長度,MB(H, E)的定義為
MD稱為不信任增長度,MD(H, E)的定義為
??? MB和MD的關系
??? 當MB(H, E)>0時,有P(H|E)>P(H),即E的出現增加了H的概率
??? 當MD(H, E)>0時,有P(H|E)<P(H) ,即E的出現降低了H的概率
??? 根據前面對CF(H, E)可信度 、MB(H, E)信任增長度、MD(H, E)不信增長度的定義,可得到CF(H, E)的計算公式:
分別解釋CF(H,E)>0,CF(H,E)=0,CF(H,E)<0
可信度的性質
?? ?(1)??互斥性
對同一證據,它不可能既增加對H的信任程度,又同時增加對H的不信任程度,這說明MB與MD是互斥的。即:
???????? 當MB(H, E)>0時,MD(H, E)=0
???????? 當MD(H, E)>0時,MB(H, E)=0
(2) 值域
??? (3) 典型值
?當CF(H,E)=1時,有P(H/E)=1,它說明由于E所對應證據的出現使H為真。此時,MB(H, E)=1,MD(H, E)=0。
??? 當CF(H,E)= -1時,有P(H/E)=0,說明由于E所對應證據的出現使H為假。此時,MB(H, E)=0,MD(H,E)=1。
??? 當CF(H,E)= 0時,有MB(H, E)=0、MD(H, E)=0。E所對應證據的出現不證實、不否認H;
4.
??????? (1)對H的信任增長度等于對非H的不信任增長度
??????? (2)對H的可信度與非H的可信度之和等于0
??????? (3)可信度不是概率,不滿足
????????????? P(H)+P(﹁H)=1 和 0≤P(H),P(﹁H)≤ 1
?
?(5)對同一前提E,若支持若干個不同的結論Hi(i=1,2,…,n),則
因此,如果發現專家給出的知識有如下情況
??????? CF(H1, E)=0.7,? CF(H2, E)=0.4
則因0.7+0.4=1.1>1為非法,應進行調整或規范化。
證據不確定性的表示
基本證據
表示方法,用可信度,其取值范圍也為[-1,1]。例如,CF(E) ,其含義:
??? CF(E)= 1,證據E肯定它為真
??? CF(E)= 0,對證據E一無所知
??? 0<CF(E)<1,證據E以CF(E)程度為真
否定證據
????????? CF(?E)= - CF(E)
組合證據
??? 合取:E=E1 AND E2 AND … En時,若已知CF(E1),CF(E2),…,則
????? ?????CF(E)=min{CF(E1), CF(E2), … ,CF(En)}
??? 析取:E=E1 OR? E2? OR … En時,若已知CF(E1),CF(E2),…,則
????????? CF(E)=max{CF(E1), CF(E2), … ,CF(En)}
不確定性的更新
??? CF模型中的不確定性推理實際上是從不確定的初始證據出發,不斷運用相關的不確性知識,逐步推出最終結論和該結論可信度的過程。而每一次運用不確定性知識,都需要由證據的不確定性和知識的不確定性去計算結論的不確定性。
??? 不確定性的更新公式
?????????? CF(H)=CF(H, E)×max{0, CF(E)}
??? 若CF(E)<0,則
?????????? CF(H)=0
即該模型沒考慮E為假對H的影響。(只考慮為真條件的影響)
??? 若CF(E)=1,則
?????????? CF(H)=CF(H,E)
即規則強度CF(H,E)實際上是在E為真時,H的可信度
結論不確定性的合成
??? 當有多條知識支持同一個結論,且這些知識的前提相互獨立,結論的可信度又不相同時,可利用不確定性的合成算法求出結論的綜合可信度。
??? 設有知識:IF? E1?? THEN?? H? (CF(H, E1))
??? IF? E2?? THEN?? H? (CF(H, E2))
則結論H 的綜合可信度可分以下兩步計算:
??? (1) 分別對每條知識求出其CF(H)。即
???????? CF1(H)=CF(H, E1) ×max{0, CF(E1)}
???????? CF2(H)=CF(H, E2) ×max{0, CF(E2)}
(2) 用如下公式求E1與E2對H的綜合可信度
例題P20
主觀Bayes方法的概率論基礎
全概率公式
定理3.1 設事件A1,A2,…,An滿足:
??? (1)任意兩個事件都互不相容,即當i≠j時,有Ai∩Aj=Φ ?(i=1,2,…,n;j=1,2,…,n);
??? (2) P(Ai)>0 (i=1, 2, … ,n);
??? (3) D=
則對任何事件B由下式成立:
?? 該公式稱為全概率公式,它提供了一種計算P(B)的方法。
Bayes公式
https://blog.csdn.net/jiangjiang_jian/article/details/81346797
定理3.2 設事件A1,A2,…,An滿足定理3.1規定的條件,則對任何事件B有下式成立:
該定理稱為Bayes定理,上式稱為Bayes公式。
??? 其中,P(Ai)是事件Ai的先驗概率,P(B|Ai)是在事件Ai發生條件下事件B的條件概率;P(Ai|B)是在事件B發生條件下事件Ai的條件概率。
??? 如果把全概率公式代入Bayes公式,則有:
即
這是Bayes公式的另一種形式。
??? Bayes定理給處了用逆概率P(B|Ai)求原概率P(Ai|B)的方法。
貝葉斯公式
在貝葉斯寫這篇文章之前,人們已經能夠計算“正向概率”,如“假設袋子里面有 N 個白球,M 個黑球,你伸手進去摸一把,摸出黑球的概率是多大”。而一個自然而然的問題是反過來:“如果我們事先并不知道袋子里面黑白球的比例,而是閉著眼睛摸出一個(或好幾個)球,觀察這些取出來的球的顏色之后,那么我們可以就此對袋子里面的黑白球的比例作出什么樣的推測”。這個問題,就是所謂的逆向概率問題。
P(A)是 A 的先驗概率,之所以稱為“先驗”是因為它不考慮任何 B 方面的因素
P(A|B)是已知 B 發生后 A 的條件概率,也由于得自 B 的取值而被稱作 A 的后驗概率。
P(B|A)是已知 A 發生后 B 的條件概率,也由于得自 A 的取值而被稱作 B 的后驗概率。
P(B)是 B 的先驗概率,也作標淮化常量(normalizing constant)。
貝葉斯定理可表述為:
后驗概率 = (相似度 * 先驗概率)/標淮化常量
也就是說,后驗概率與先驗概率和相似度的乘積成正比。
另外,比例P(B|A)/P(B)也有時被稱作標淮相似度(standardised likelihood),Bayes定理可表述為:
后驗概率 = 標淮相似度 * 先驗概率
聯合概率表示兩個事件共同發生(數學概念上的交集)的概率。A 與 B 的聯合概率表示為。
推導
我們可以從條件概率的定義推導出貝葉斯定理。
根據條件概率的定義,在事件 B 發生的條件下事件 A 發生的概率為:
同樣地,在事件 A 發生的條件下事件 B 發生的概率為:
結合這兩個方程式,我們可以得到:
這個引理有時稱作概率乘法規則。上式兩邊同除以 P(A),若P(A)是非零的,我們可以得到貝葉斯定理:
根據新情況更新先驗概率-修正概率
知識不確定性的表示
表示形式:在主觀Bayes方法中,知識是用產生式表示的,其形式為:
?????????? IF? E? THEN? (LS, LN)?? H
其中,(LS, LN)用來表示該知識的知識強度,LS(充分性度量)和LN(必要性度量)的表示形式分別為:
LS充分性:結論成立/不成立時 條件為真概率
LN必要性:結論成立/不成立時 條件為假概率
根據貝葉斯:
兩式相除得(幾率函數):
為討論方便,下面引入幾率函數
可見,X的幾率等于X出現的概率與X不出現的概率之比,P(X)與O(X)的變化一致,且有:
?????????? P(X)=0? 時有? O(X)=0
?????????? P(X)=1? 時有? O(X)=+∞
即把取值為[0,1]的P(X)放大為取值為[0,+∞]的O(X)
以上兩式聯立
再把LS代入此式,可得:
同理可得到關于LN的公式:
以上兩式就是修改的Bayes公式
LS的性質:
??? 當LS>1時,O(H|E)>O(H),說明E支持H,LS越大,E對H的支持越充分。當LS→∝時,O(H|E)→∝,即P(H/E)→1,表示由于E的存在將導致H為真。
??? 當LS=1時,O(H|E)=O(H),說明E對H沒有影響。
當LS<1時,O(H|E)<O(H),說明E不支持H。
當LS=0時,O(H|E)=0,說明E的存在使H為假。
LN的性質:
當LN>1時,O(H|﹁E)>O(H),說明﹁E支持H,即由于E的不出現,增大了H為真的概率。并且,LN得越大,﹁E對H為真的支持就越強。當LN→∝時,O(H|﹁E)→∝,即P(H|﹁E)→1,表示由于﹁E的存在將導致H為真。
??? 當LN=1時,O(H|﹁E)=O(H),說明﹁E對H沒有影響。
??? 當LN<1時,O(H|﹁E)<O(H),說明﹁E不支持H,即由于﹁E的存在,使H為真的可能性下降,或者說由于E不存在,將反對H為真。當LN→0時O(H|﹁E) →0,即LN越小,E的不出現就越反對H為真,這說明H越需要E的出現。
??? 當LN=0時,O(H|﹁E)=0,說明﹁E的存在(即E不存在)將導致H為假。
?
LS與LN的關系
由于E和﹁E不會同時支持或同時排斥H,因此只有下述三種情況存在:
??? ① LS>1且LN<1???????????????????????
??? ② LS<1且LN>1??????????????? ?????
??? ③ LS=LN=1
證據不確定性的表示
基本證據的表示:
?? 在主觀Bayes方法中,基本證據E的不精確性是用其概率或幾率來表示的。
概率與幾率之間的關系為:
以概率情況為例,對初始證據E,用戶可以根據當前觀察S將其先驗概率P(E)更改為后驗概率P(E|S),即相當于給出證據E的動態強度。
組合證據不確定性的計算:
?? 證據的基本組合方式只有合取和析取兩種。(合取min,析取max)
當組合證據是多個單一證據的合取時,例
????????? E=E1? AND?? E2? AND? …? AND? En
如果已知在當前觀察S下,每個單一證據Ei有概率P(E1|S), P(E2|S), … ,P(En|S),則
??? P(E|S)=min{ P(E1|S), P(E2|S), … ,P(En|S)}
當組合證據是多個單一證據的析取時,例
???????????? E=E1? OR?? E2? OR? …? OR? En
??? 如果已知在當前觀察S下,每個單一證據Ei有概率P(E1|S), P(E2|S), … ,P(En|S),則
P(E|S)=max{ P(E1|S), P(E2|S), … ,P(En|S)}
不確定性的更新
根據E的概率P(E)及LS和LN的值,把H的先驗概率P(H)或先驗幾率O(H)更新為后驗概率或后驗幾率。
??? 分以下3種情況討論:
??? 1. 證據肯定為真
??? 2. 證據肯定為假
3. 證據既非為真有非為假
證據肯定為真時
當證據E肯定為真時,P(E)=P(E|S)=1。將H的先驗幾率更新為后驗幾率的公式:
????????? O(H|E)=LS×O(H)
把H的先驗概率P(H)更新為后驗概率P(H|E)的公式
?
證據既非真假:需要使用杜達等人給出的公式:
P(H|S)=P(H|E)×P(E|S)+P(H|﹁E)×P(﹁E|S)??????????????? ??????????????(3.7)
?
?
??? 下面分四種情況討論:
??? (1)P(E|S)=1
??? 當P(E|S)=1時,P(﹁E|S)=0。
這實際是證據肯定存在的情況
??? (2)P(E|S)=0
??? 當P(E|S)=0時,P(﹁E|S)=1。
??? (3)P(E|S)=P(E)
??? 當P(E|S)=P(E)時,表示E與S無關。由(3.7)式和全概率公式可得
??? (4) P(E/S)為其它值
上面已經得到了P(E|S)的3個特殊值:0,P(E),1;它們分別對應的3個值為P(H|﹁E),P(H),P(H|E)。由此構造的分段線性插值函數為:
?
總結
以上是生活随笔為你收集整理的人工智能 4.不确定性推理方法的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 韩国历史最悠久的银行推出全国区块链贷款平
- 下一篇: 远程服务器镜像,NAS服务器的远程镜像技