一、概述

這大半年都很忙，學習時間太少，導致概率論的學習停滯不前，期間AI大佬herosunly推薦了陳希孺老先生的概率論教材，與最開始學習的美版M.R.斯皮格爾等著作的《概率與統計》表示差異比較大（具體請見《人工智能數學基礎–概率與統計7：學習中一些術語的稱呼或表示變化說明以及獨立事件的一些補充推論》的說明），但學習起來更容易理解一些，最近利用國慶開始學習這本教材，感覺還是有必要繼續學。

由于表示的變化，為了知識的承前啟后，基于陳老先生的教材對事件獨立性、條件概率等前面章節介紹過的內容在本文重新介紹一下。

二、事件的蘊涵、包含及相等

在同一試驗下的兩個事件A和B，如果當A發生時B必發生，則稱A蘊含B，或者說B包含A，記為A ? B。若A、B互相蘊含，即A?B且B?A，則稱A、B 兩事件相等，記為A=B。

注意：蘊涵和包含是相反關系。

三、事件的互斥和對立

如果兩個事件A、B不可能在同一試驗中都發生（包括都不發生）則稱它們是互斥的；

如果一些事件中任意兩個都是互斥的，則稱它們是兩兩互斥的；

如果A為一事件，則事件B={A不發生} 稱為A的對立事件，記為：

四、事件的和（或稱為并）以及加法公理

設有2個時間A、B，定義一個新事件C：C={A發生或B發生}={A、B至少發生一個}，則稱事件C為事件A、B的和（或并），記為C=A+B；

定理：若干個互斥事件之和的概率，等于各事件的概率之和，這里事件的個數可以是有限的或無限的，這個定理就稱為概率的加法定理（也稱為加法公理），記為：P(A1+A2+…)=P(A1)+P(A2)+…。注意概率的加法定理的基礎條件是各事件必須是兩兩互斥的；

事件A的對立事件A^c的概率P(A^c)=1-P(A)。

五、事件的積（或稱為交）和差

如果有兩個事件A、B，定義事件C={A、B都發生}，則稱事件C是事件AB的積或乘積（或交），記為：C=AB；

多個事件A1、A2、…的積A是指事件A1、A2、…都發生，記為:A=A1A2…,也可以記為：

兩個事件A、B之差記為 A－B，定義為：A-B={A發生，B不發生}，A-B = AB^c，因此差是可以通過積進行定義。
概率加法公理

六、事件的運算法則

假設有事件A、B、C，則有關于事件的如下運算法則：

加法交換律：A+B=B+A；

乘法交換律：AB=BA;

乘法結合律：(AB)C=A(BC)；

分配律：A(B-C)=AB-AC。

七、條件概率

• 一般來講，條件概率是附加一定條件之后所計算出的概率；
• 在概率論中，決定試驗的基礎條件被看做已定不變的，如果不再加入其它條件或假定，則算出的概率就是無條件概率；
• 設有兩個事件A、B，且P(B)≠0，則在給定B發生的條件下A發生的概率為條件概率，記為P(A|B)，定義為：P(A|B)=P(AB)/P(B)。

老猿注：為什么條件概率的計算公式是P(A|B)=P(AB)/P(B)，請參考《人工智能數學基礎–概率與統計1：隨機試驗、樣本空間、事件、概率公理定理以及條件概率和貝葉斯法則》。

八、事件的獨立性和概率乘法定理

對于兩個事件A、B，如果B發生與否對A的發生可能性毫無影響，則稱為事件A和B是獨立的。由于B的發生不影響A的發生，此時P(A|B)=P(A)，按照 條件概率的計算公式P(A|B)=P(AB)/P(B)可得：P(AB)=P(A)P(B)；

兩個事件A、B是獨立的，則P(AB)=P(A)P(B)，反過來如果兩個事件A、B滿足P(AB)=P(A)P(B)，則稱A、B是獨立的；

兩個獨立事件A、B的積AB的概率P(AB)等于其各自概率的乘積P(A)P(B)，P(AB)=P(A)P(B)稱為概率的乘法定律；

設A1、A2、…為有限或無限個事件，如果任意取出有限個Aj1、Aj2、…、Ajn，P(Aj1Aj2…Ajn)=P(Aj1)P(Aj2)…P(Ajn)，則稱事件A1、A2、…相互獨立。根據本公式定義的獨立事件與由條件概率觸發的定義是等價的，或者說對任意Aj1、Aj2、…、Ajn，有：
P(Aj1|Aj2…Ajn)=P(Aj1)，即任意事件Aj1發生的可能性大小，不受其他事件發生的影響；

若干個獨立事件A1、A2、…An之積的概率，等于各事件概率的積，P(A1A2…An)=P(A1)P(A2)…P(An)；

獨立事件的任意一部分也獨立，不同獨立事件決定的事件也獨立，這里說的決定是指通過運算得到，注意如果決定2個事件中有相同事件則決定的事件不是相互獨立的；

若干個獨立事件A1、A2、…An，將其中任意一部分改為對立事件時，所得事件仍然相互獨立 。

老猿注：獨立事件的積的概率等于各自概率的積，互斥事件的和的概率等于各自概率的和，這兩者的前提是不同的，即相加是互斥，相乘是獨立。

九、全概率公式

設B1、B2、…為有限個或無限個事件，它們兩兩互斥且在每次試驗中至少發生一個，即：
BiBj=?（不可能事件）（i≠j）
B1+B2+…=Ω（必然事件）
稱具有這樣性質的一組事件稱為“完備事件群”

對上述完備事件群，考慮任一事件A，有A=AΩ=AB1+AB2+…，由于B1、B2、…兩兩互斥，則AB1、AB2、…兩兩互斥，依據加法定理：P(A)=P(AB1)+P(AB2)+…,再由條件概率公式P(ABi)=P(Bi)P(A|Bi)，得到：
P(A) = P(B1)P(A|B1)+P(B2)P(A|B2)+…
上述公式就稱為全概率公式。

全概率公式的理論和實際意義在于：當復雜情況下A的概率P(A)不容易計算，但A總是隨某個Bi伴出，適當去構造一組Bi往往可以簡化計算。

老猿注：全概率公式中Bi可以看做事件A發生的原因，因此全概率公式可以看作是由原因的概率推結果的概率。

十、貝葉斯公式

10.1、貝葉斯公式的定義

設B1、B2、…為完備事件群，對任一事件A，結合條件概率的定義有：

P(Bi|A)=P(ABi)/P(A)=P(Bi)P(A|Bi) / (P(B1)P(A|B1)+P(B2)P(A|B2)+…)=P(Bi)P(A|Bi) / (ΣP(Bj)P(A|Bj))

上述公式就稱為貝葉斯公式，是英國學者T·貝葉斯提出的。

10.2、貝葉斯公式的意義

貝葉斯公式中的事件A可以看作已經發生的事件，Bi可以看做事件A發生的原因，因此貝葉斯公式可用于在A發生的情況下，去找各個原因導致事件A發生的概率，這個概率與P(Bi|A)成比例。

10.3、例1

有三個盒子C1、C2、C3，各有100個球，其中C1盒含白球80個、紅球10個、黑球10個；C2為白球10個、紅球80個、黑球10個；C3為白球10個、紅球10個、黑球80個，現從這三個盒子中隨機地抽出一個(每盒被抽的概率為1/3)，然后從所抽出的盒中隨機抽出一個球(每球被抽的概率為0.01)，結果抽出者為白球。問“該白球是從Ci盒中抽出”的可能性有多大(i=1，2，3)？

解：
記Bi={抽出的為Ci盒}(i=1，2，3)，A={抽出白球}，要求的是條件概率P(Bi|A)。按假定，有
P(B1)=P(B2)=P(B3)=1/3，
P(A|B1)=0.8，P(A|B2)=0.1，P(A|B3)=0.1
代入貝葉斯公式，算出分母：P(B1)P(A|B1)+P(B2)P(A|B2)+P(B3)P(A|B3)=1/3*(0.8+0.1+0.1)=1/3，其實從300個球中抽100個球的概率就是1/3，因此可以算得：
P(B1|A)=0.8，P(B2|A)=0.1，P(B3|A)=0.1。

因為C1盒所含白球最多，故在已知抽出白球的情況下，該球系來自C1盒的可能性也最大，理所當然?？赡苋杂凶x者不完全了然于心，則可以設想這么一個試驗，準備兩張紙，把例中的試驗一次又一次地做下去：每抽出一個盒，在左邊的紙上記下其為C1或C2或C3(不管從該盒中抽出的球如何)；而只有在抽出的球為白球時，才在右邊的紙上記下該盒為C，或C2或C3。在進行了極大量次數的試驗后，會發現左邊紙上C1的比例很接近1/3，而在右邊紙上C1的比例則很接近0.8。

10.4、例2

設某種病菌在人口中的帶菌率為0.03，當檢查時，由于技術及操作的不完善以及種種特殊原因，使帶菌者未必檢出陽性反應而不帶菌者也可能呈陽性反應。
假定： P(陽性|帶菌)=0.99，P(陰性|帶菌)=0.01， P(陽性|不帶菌)=0.05，P(陰性|不帶菌)=0.95。
現設某人檢出陽性，問“他帶菌”的概率是多少？

解：

此問題相當于 P(B1)=0.03，P(B2)=0.97，且P(A|B1)=0.99，P(A|B2)=0.05，所求的概率為P(B1|A)，按貝葉斯公式算出：
P(B1|A) = P(B1)P(A|B1)/( P(B1)P(A|B1)+ P(B2)P(A|B2)) = (0.03)(0.99)/[(0.03)(0.99)+(0.97)(0.05)]=0.380。

也就是說，即使你檢出陽性，尚可不必過早下結論你一定帶菌了。實際上，這種可能性尚不到40%。
這個例子很值得玩味，且對其“思維定勢”中無概率成分的人來說，簡直有點難以置信.說穿了，理由簡單之極，由于帶菌率極低，在全人口中絕大部分不帶菌。由于檢驗方法的不完善，在這大批人中會檢出許多呈陽性者。另一方面，帶菌者在全人口中很少，即使檢測出陽性，在這兩部分陽性的人群中占比相對較少，屬于虛報性質，因此提高精度在這類檢驗中非常重要。

小結

本文結合陳希孺老先生的概率論教材介紹了事件的互斥、獨立的概念，概率的運算法則，互斥事件的加法定理、獨立事件的乘法定理以及條件概率的定義以及由此推導出來的完備事件群的全概率公式和貝葉斯公式，最后介紹了貝葉斯公式在解決實際問題中的應用。

更多人工智能數學基礎請參考專欄《人工智能數學基礎》。

寫博不易，敬請支持：

如果閱讀本文于您有所獲，敬請點贊、評論、收藏，謝謝大家的支持！

關于老猿的付費專欄

付費專欄《https://blog.csdn.net/laoyuanpython/category_9607725.html 使用PyQt開發圖形界面Python應用》專門介紹基于Python的PyQt圖形界面開發基礎教程，對應文章目錄為《 https://blog.csdn.net/LaoYuanPython/article/details/107580932 使用PyQt開發圖形界面Python應用專欄目錄》；

付費專欄《https://blog.csdn.net/laoyuanpython/category_10232926.html moviepy音視頻開發專欄 )詳細介紹moviepy音視頻剪輯合成處理的類相關方法及使用相關方法進行相關剪輯合成場景的處理，對應文章目錄為《https://blog.csdn.net/LaoYuanPython/article/details/107574583 moviepy音視頻開發專欄文章目錄》；

付費專欄《https://blog.csdn.net/laoyuanpython/category_10581071.html OpenCV-Python初學者疑難問題集》為《https://blog.csdn.net/laoyuanpython/category_9979286.html OpenCV-Python圖形圖像處理 》的伴生專欄，是筆者對OpenCV-Python圖形圖像處理學習中遇到的一些問題個人感悟的整合，相關資料基本上都是老猿反復研究的成果，有助于OpenCV-Python初學者比較深入地理解OpenCV，對應文章目錄為《https://blog.csdn.net/LaoYuanPython/article/details/109713407 OpenCV-Python初學者疑難問題集專欄目錄 》

付費專欄《https://blog.csdn.net/laoyuanpython/category_10762553.html Python爬蟲入門 》站在一個互聯網前端開發小白的角度介紹爬蟲開發應知應會內容，包括爬蟲入門的基礎知識，以及爬取CSDN文章信息、博主信息、給文章點贊、評論等實戰內容。

前兩個專欄都適合有一定Python基礎但無相關知識的小白讀者學習，第三個專欄請大家結合《https://blog.csdn.net/laoyuanpython/category_9979286.html OpenCV-Python圖形圖像處理 》的學習使用。

對于缺乏Python基礎的同仁，可以通過老猿的免費專欄《https://blog.csdn.net/laoyuanpython/category_9831699.html 專欄：Python基礎教程目錄）從零開始學習Python。

如果有興趣也愿意支持老猿的讀者，歡迎購買付費專欄。

老猿Python，跟老猿學Python！

? ? 前往老猿Python博文目錄 https://blog.csdn.net/LaoYuanPython ?

總結

以上是生活随笔為你收集整理的人工智能数学基础--概率与统计9：概率运算、加法公理、事件的独立性、概率乘法定理、条件概率、全概率公式以及贝叶斯公式的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。