8. An Introduction to MCMC for Machine Learning (2)
生活随笔
收集整理的這篇文章主要介紹了
8. An Introduction to MCMC for Machine Learning (2)
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
MCMC的應用:
(1)貝葉斯推理與學習;%例:動力學系統的參數估計(見筆記)
(2)統計力學;
(3)最優化:在可行域很大(large number of possible configurations)時有效找到最優解——RBM 優化目標函數中的問題;
(4)懲罰可能性模型的選擇:在眾多模型中快速找到更好的模型——MDL, BIC, AIC 模型選擇問題;
2.1. 蒙特卡洛原理
思想起源:假設玩一局牌的贏的概率只取決于你抽到牌的組合情況,如果用窮舉的方法則有 52! 種情況,計算復雜度太大。而現實中的做法是先玩幾局試試,統計贏的概率,如果你不太確信這個概率,你可以盡可能多玩幾局,當你玩的次數很大的時候,得到的概率就非常接近真實概率了。
上述方法可以估算隨機事件的概率,接下來內容的重點是用Monte Carlo抽樣計算隨機變量的期望值:
X表示隨機變量,服從概率分布p(x),那么要計算f(x)的期望,只需要不停從p(x)中抽樣。
總結
以上是生活随笔為你收集整理的8. An Introduction to MCMC for Machine Learning (2)的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 04 凸优化问题
- 下一篇: 8. An Introduction t