今天我們來談?wù)?strong>主題模型(Latent Dirichlet Allocation),由于主題模型是生成模型，而我們常用的決策樹，支持向量機(jī)，CNN等常用的機(jī)器學(xué)習(xí)模型的都是判別模型。所以筆者首先簡(jiǎn)單介紹一下判別模型和生成模型。下面筆者列出了生成模型和判別模型的核心區(qū)別：

• 判別模型：估計(jì)的是條件概率分布(conditional distribution)—— 作為預(yù)測(cè)模型。
• 生成模型：估計(jì)的是聯(lián)合概率分布（joint probability distribution）—— ，然后根據(jù)貝葉斯公式   求出條件概率分布 作為預(yù)測(cè)模型

簡(jiǎn)單的說:

• 判別模型只需要學(xué)習(xí)特征x，從而就可以去預(yù)測(cè)類別y。做預(yù)測(cè)時(shí)是判斷新數(shù)據(jù)屬于哪個(gè)類別的概率最大，進(jìn)而確定新數(shù)據(jù)的類別，判別模型尋找不同類別之間的最優(yōu)分類面，反映的是異類數(shù)據(jù)之間的差異。

• 而生成模型學(xué)得是各個(gè)類別y，和各自的特征x（即可看成學(xué)得多個(gè)模型），做預(yù)測(cè)時(shí)是判斷新數(shù)據(jù)和已知類別中的哪個(gè)最為接近，進(jìn)而確定新數(shù)據(jù)的類別，生成模型能夠反映同類數(shù)據(jù)本身的相似度。

由于生產(chǎn)模型學(xué)習(xí)的是特征x和類別y的聯(lián)合分布，所以相較于判別模型更為復(fù)雜。當(dāng)建模過程中存在隱變量是，判別模型就無能為力了，而此時(shí)生成模型依然能夠發(fā)揮作用。高斯混合模型（隱變量是類別）和今天的筆者要介紹的主題模型（隱變量是主題）就是屬于含有隱變量的生成模型。

主題模型簡(jiǎn)介

主題模

總結(jié)

以上是生活随笔為你收集整理的LDA主题模型——gensim实战的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。