NLP word2vec 计算优化
生活随笔
收集整理的這篇文章主要介紹了
NLP word2vec 计算优化
小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
1.層次softmax
2.負(fù)采樣
為什么要負(fù)采樣
加快計(jì)算速度，如果不用就需要全量更新隱藏的矩陣，維度太大（比如10w個(gè)單詞，每個(gè)單詞映射為300維，那么就是10w*300維矩陣，每次都要更新一遍）
負(fù)采樣是什么
3.根據(jù)頻率抽樣
總結(jié)
以上是生活随笔為你收集整理的NLP word2vec 计算优化的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇： NLP word2vec paper
- 下一篇： yarn client 提交任务