伽马分布极大似然估计_一文通俗解释极大似然估计
給定一個數據集(某個概率分布下的一系列采樣點,所有的采樣都是獨立同分布的),我們能求得一個關于模型參數 的估計,而極大似然估計可以通過觀察當前數據來估計模型的最佳參數,換句話也就是說在所有的模型參數 取值中,尋找到一個參數使得該數據集樣本發生的可能性最大。
現實生活中也經常用到極大似然估計,在這里跟大家分享一下小編的一段親身經歷:
在天氣晴朗的某一天,身為大好青年的小編早早的去了圖書館學習。就在小編認真看書的同時,發現一位同班女同學老是偷偷盯著小編看,小編這下坐不住了,仔細回想了最近發生的一系列事件:她老偷偷在我微信下面評論;她老是偷看我空間;她上次請我喝奶茶;她經常約我跑步;她說想請我看復聯,我心想: 她會不會喜歡我,喜歡我的概率大不大呢?小編經過分析得出來的結果是她很有可能暗戀小編。請注意,小編在這里不是自戀,而是運用了嚴謹的數學分析來討論這個問題的本質,使用的分析方法就是極大似然估計法。因為導致上述事件發生概率最大的模型參數就是該女同學暗戀小編。最后,不同大家動手,我自己能醒過來。
03舉例分析下面小編舉幾個正經的例子,大家熟悉的拋硬幣問題,為了嚴謹起見,我們事先假設硬幣的正反面輕重不同,所以拋一次得到正反面的概率不同。 對于一個獨立同分布的數據集,總體的似然就是每個樣本似然的乘積,對于拋硬幣問題,我們可以構造似然函數如下:
在這里我們有三枚硬幣A、B、 C, 其中其拋到正面的概率p分別為1/3,1/2,2/3. 我們選擇其中一枚去做100次拋硬幣實驗,最后得到正面朝上的次數為40,反面朝上的次數為60。我們該如何去判斷是我們選擇的是A、B、C中的那一枚呢?在這里使用極大似然估計,我們分別計算其似然函數結果如下:
我們看到選擇A硬幣導致似然函數的結果最大,也就是說參數?的時候似然函數取得最大值,所以其就是針對該次實驗的最大似然估計參數值。
由于對數函數操作不會改變函數的凹凸性,所以通常為了求解方便,我們會將上述指數函數的形式的似然函數轉化為對數似然函數:
這里只是舉了一個離散分布的例子,下面舉一個連續分布的例子
對于正態分布,其似然函數如下:
轉換成對數似然函數:
分別兩個參數求一階偏導,令其等于0求解下列方程:
得到駐點下對應的參數值:
上述求解參數值就是對正態分布的最大似然估計值。
總Lead結最后我們在這里總結一下極大似然估計方法的步驟:
設計并確定似然函數
轉換成對數似然函數
求偏導,并令偏導等于0,計算函數取極大值的參數值。
極大似然估計的介紹到這里就告一段落,極大似然估計在機器學習的使用十分廣泛,大家可以去看一下邏輯回歸參數更新的推導,其就用到了極大似然估計,下方也會給大家推薦一個參考鏈接。下一次將給大家結束最大后驗估計和貝葉斯估計,由于小編的水平有限,所以難免會出錯,歡迎大家的批評與指導。
參考連接1.??https://zhuanlan.zhihu.com/p/26614750
2.??https://blog.csdn.net/star_liux/article/details/39666737
更多精彩推薦,請關注我們 ▼總結
以上是生活随笔為你收集整理的伽马分布极大似然估计_一文通俗解释极大似然估计的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 什么叫打新
- 下一篇: 宝马数字钥匙已支持安卓系统,无需安装 A