概率論的基本概念——《概率論與數理統計》第一章學習報告

前言

最近在學習概率論的內容，決定做一下學習報告來總結一下的第一章的知識點。

參考教材是浙大第四版的《概率論與數理統計》。

思維導圖

1. 隨機試驗

主要是隨機試驗的3個特點，即：

相同條件重復。

可能的結果多種且已知。

每次試驗的結果的不確定。

2. 樣本空間、隨機事件

2.1 樣本空間

樣本空間：隨機試驗E的所有可能結果組成的集合，即為S。

樣本點：隨機試驗E的每個結果。

2.2 隨機事件

定義：樣本空間S的子集。可簡稱為 事件。

基本事件：由一個樣本點組成的單點集。

必然事件：其實就是S，該事件包含所有的樣本點。

不可能事件：不包含樣本點，為空集。

2.3 事件間的關系和事件的運算

關系

包含，一個事件A包含在另一個事件B中，A就是B的子集
$$\begin{gathered} A?B \\ (特殊情況)A=B \end{gathered}$$

A和B的 和事件，邏輯上其實就是 A 或 B
$$A\cup B$$

積事件，邏輯上就是A與B，或者說是A且B，即A和B的公共部分，A和B的交集。
$$A\cap B$$

A 與 B 的 差事件，下列指當且僅當A發生，B不發生的事件
$$A?B$$

互不相容，或者稱為 互斥
$$A\cap B=?$$

對立事件 ，互為逆事件，即
$$\begin{gathered} A\cap B=? \\ A\cup B=S \end{gathered}$$

上面6個事件間的關系可以依照下圖（取自教材）

運算規律

交換律
$$\begin{gathered} A\cup B=B\cup A \\ A\cap B=B\cap A \end{gathered}$$

結合律
$$\begin{gathered} A\cup (B\cup C)=(A\cup B)\cup C \\ A\cap (B\cap C)=(A\cap B)\cap C \end{gathered}$$

分配律
$$\begin{gathered} A\cup (B\cap C)=(A\cup B)\cap (A\cup C) \\ A\cap (B\cup C)=(A\cap B)\cup (A\cap C) \end{gathered}$$

德摩根律
$$\begin{gathered} \overline{A\cup B}=\overline{A}\cap \overline{B} \\ \overline{A\cap B}=\overline{A}\cup \overline{B} \end{gathered}$$

3. 頻率與概率

3.1 頻率

定義：相同條件下，n次試驗，事件A發生的次數為A發生的頻數，頻數和n的比值，即為A發生的頻率。

基本性質：

$$0\le f\le 1$$

$$f_n(S)=1$$

Ai 為基本事件，（兩兩互不相容）
$$f_n(A_1\cup A_2\cup ...\cup A_k)=f_n(A_1)+...+fn(A_k)$$

3.2 概率

定義：對隨機試驗E的每一個事件A賦予一個實數，記為P（A）。

概率的滿足條件：

非負性
$$P(A)\ge 0$$

規范性（S為必然事件，其實也是樣本空間的所有元素）
$$P(S)=1$$

可列可加性（事件兩兩互不相容）
$$P(A_1\cup A_2\cup ...)=P(A_1)+P(A_2)+...$$

重要性質

$$P(?)=0$$

有限可加性，其實就是可列可加性

$$\begin{gathered} 若A?B，則 \\ P(B?A)=P(B)?p(A) \\ P(B)\ge P(A) \end{gathered}$$

逆事件概率
$$P(\overline{A})=1?P(A)$$

加法公式
$$1=P(S)=P(A\cup \overline{A})=P（A）+P(\overline{B})$$

4. 等可能概型（古典概型）

特點

樣本空間內元素數量有限。

基本事件的可能性相同。

直觀、容易理解。

關于放回和不放回抽樣的問題，其實也很好理解，放回不會影響樣本空間的改變，所以對于相同事件每次抽樣概率不變；反之，不放回抽樣會改變樣本空間，概率改變。

超幾何分布

對于不放回抽樣的一種概率分布模型，書中的例子是：

有N件產品，其中D件次品，任取n件產品，求其中k件次品的概率。

$$p=C_D^k?C_{N?D}^{n?k}/C_N^n$$

這里沒有使用課本中的大圓括號（原因很簡單，哥們不會），這里的C是高中數學學的排列組合中的組合。

實際推斷原理

概率很小的事件在一次試驗中實際上幾乎是不發生的。

5. 條件概率

5.1 條件概率

我對定義的理解就是事件B發生對事件A的發生了影響（可以為0，即無影響），在這種影響的情況下，A發生的概率。
$$P(B|A)=\frac{P(AB)}{P(A)}$$
條件概率也是概率，所以也滿足概率定義的三個條件。

5.2 乘法定理

設P(A) > 0
$$P(AB)=P(B|A)P(A)$$
可以拓展到多個事件的積事件
$$P(ABC)=P(C|AB)P(B|A)P(A)$$

5.3 全概率公式和貝葉斯公式

樣本空間的劃分

S為試驗E的樣本空間，B1, B2, … , Bn 為 E的一組事件，若
$$\begin{gathered} (i)B_i{B}_j=?,i=j,i,j=1,2,...,n. \\ (ii)B_1\cup B_2\cup ...\cup B_n=S \end{gathered}$$
則稱Bi 為樣本空間的劃分。

全概率公式

根據Bi為 S的一個劃分，對于A為E的一個事件，有
$$P(A)=\sum _{i=1}^{n}P(A|B_i)P(B_i)$$

貝葉斯公式

$$P(B_i|A)=\frac{P(A|B_i)P(B_i)}{{\sum }_{j=1}^{n}P(A|B_j)P(B_j)}$$

貝葉斯公式在機器學習、神經網絡等領域有著非常廣泛的應用，我曾經做過一個機器學習的小demo，使用的對數據的分類方法正是基于貝葉斯的分類器，更多細節可以參考下列我當時學習的兩個案例的blog

2.樸素貝葉斯分類算法(NBC)_zhouping118的博客-CSDN博客_nbc算法

樸素貝葉斯分類（NBC）的Python實現（離散）_weixin_42353399的博客-CSDN博客

6. 獨立性

前面在條件概率中提到的一個事件的發生對另一個事件的發生可能會有影響，而獨立性就是指沒有這種影響。即
$$\begin{gathered} P(B|A)=P(B) \\ P(AB)=P(B|A)P(A)=P(A)P(B) \end{gathered}$$
此時 A，B 相互獨立。

同理，獨立也可以拓展到多個事件的情況。

定理

如果A和B相互獨立，則
$$\overline{A}與\overline{B}，A與\overline{B}，B與\overline{A}相互獨立$$

題目

在寫習題的時候（寫的比較少，就20題，后面的還沒寫）所以不能覆蓋所有的知識點，但是對于我自己還是有比較的針對性（自己太菜了），下面帶來這兩道題目。

1. 鉚釘題（繞圈）

第一章習題的第12題，這題是有50個鉚釘，隨機地取來用在10個部件，每個部件用3個鉚釘，50個中有3個強度太弱，如果3只弱鉚釘都給一個部件，那這個部件強度就太弱了。然后我們需要求發生一個部件強度太弱的概率。

讀完上面的題目，整個人都有點被繞暈了，這題其實在例題中有原型古典概型那一節的例題3和4，只不過這個太能繞了，我第一次讀的時候直接懵了。

首先一個個分析：

50個中有3個太弱

10個部件

3個鉚釘都給一個部件，部件就太弱

求一個部件太弱的概率

重點是4，求的是一個部件太弱的概率，
$$
設A_i (1 \leq i \leq 10) 為 第i個部件太弱的事件\
P(A_i) = \frac{1}{C^3_{50}}

$$
而我們有10個部件

設發生一個部件太弱的事件為A, 有
$$P(A)=C_{10}^1?P(A_i)$$

2. 取球放球問題，條件概率

是第19題，主要是第二小問，計算量小大，別算錯

兩個盒子，第一個5紅4白，第二個4紅5白，先從第一個取2個給第二個，然后從第二個取一個，求第二個取出白的概率

不繞，就是容易算錯。

可以設 Ai 為第一個取出白，i為白的數量，設 B 為從第二個取出白。
$$P(B)=\sum _{i=0}^{2}P(B{A}_i)=\sum _{i=0}^{2}P(B|A_i)P(A_i)$$

別算錯，別算錯，別算錯！！！

后話

{1}{C^3_{50}}

$$
而我們有10個部件

設發生一個部件太弱的事件為A, 有
$$P(A)=C_{10}^1?P(A_i)$$

2. 取球放球問題，條件概率

是第19題，主要是第二小問，計算量小大，別算錯

兩個盒子，第一個5紅4白，第二個4紅5白，先從第一個取2個給第二個，然后從第二個取一個，求第二個取出白的概率

不繞，就是容易算錯。

可以設 Ai 為第一個取出白，i為白的數量，設 B 為從第二個取出白。
$$P(B)=\sum _{i=0}^{2}P(B{A}_i)=\sum _{i=0}^{2}P(B|A_i)P(A_i)$$

別算錯，別算錯，別算錯！！！

后話

不知道怎么回事，這幾天一直沒什么狀態，要remake了啊啊啊啊啊。
undefined

總結

以上是生活随笔為你收集整理的概率论的基本概念——《概率论与数理统计》第一章学习报告的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。