Mongodb的三种集群方式的搭建
?????? Mongodb是時下流行的NoSql數(shù)據(jù)庫,它的存儲方式是文檔式存儲,并不是Key-Value形式。關(guān)于Mongodb的特點,這里就不多介紹了,大家可以去看看官方說明:http://docs.mongodb.org/manual/
?????? 今天主要來說說Mongodb的三種集群方式的搭建:Replica Set / Sharding / Master-Slaver。這里只說明最簡單的集群搭建方式(生產(chǎn)環(huán)境),如果有多個節(jié)點可以此類推或者查看官方文檔。OS是Ubuntu_x64系統(tǒng),客戶端用的是Java客戶端。Mongodb版本是mongodb-linux-x86_64-2.2.2.tgz
Replica Set
?????? 中文翻譯叫做副本集,不過我并不喜歡把英文翻譯成中文,總是感覺怪怪的。其實簡單來說就是集群當中包含了多份數(shù)據(jù),保證主節(jié)點掛掉了,備節(jié)點能繼續(xù)提供數(shù)據(jù)服務(wù),提供的前提就是數(shù)據(jù)需要和主節(jié)點一致。如下圖:
?????? Mongodb(M)表示主節(jié)點,Mongodb(S)表示備節(jié)點,Mongodb(A)表示仲裁節(jié)點。主備節(jié)點存儲數(shù)據(jù),仲裁節(jié)點不存儲數(shù)據(jù)。客戶端同時連接主節(jié)點與備節(jié)點,不連接仲裁節(jié)點。
?????? 默認設(shè)置下,主節(jié)點提供所有增刪查改服務(wù),備節(jié)點不提供任何服務(wù)。但是可以通過設(shè)置使備節(jié)點提供查詢服務(wù),這樣就可以減少主節(jié)點的壓力,當客戶端進行數(shù)據(jù)查詢時,請求自動轉(zhuǎn)到備節(jié)點上。這個設(shè)置叫做Read Preference Modes,同時Java客戶端提供了簡單的配置方式,可以不必直接對數(shù)據(jù)庫進行操作。
?????? 仲裁節(jié)點是一種特殊的節(jié)點,它本身并不存儲數(shù)據(jù),主要的作用是決定哪一個備節(jié)點在主節(jié)點掛掉之后提升為主節(jié)點,所以客戶端不需要連接此節(jié)點。這里雖然只有一個備節(jié)點,但是仍然需要一個仲裁節(jié)點來提升備節(jié)點級別。我開始也不相信必須要有仲裁節(jié)點,但是自己也試過沒仲裁節(jié)點的話,主節(jié)點掛了備節(jié)點還是備節(jié)點,所以咱們還是需要它的。
介紹完了集群方案,那么現(xiàn)在就開始搭建了。
1.建立數(shù)據(jù)文件夾
一般情況下不會把數(shù)據(jù)目錄建立在mongodb的解壓目錄下,不過這里方便起見,就建在mongodb解壓目錄下吧。
2.建立配置文件
由于配置比較多,所以我們將配置寫到文件里。
#master.conf dbpath=/mongodb/data/master logpath=/mongodb/log/master.log pidfilepath=/mongodb/master.pid directoryperdb=true logappend=true replSet=testrs bind_ip=10.10.148.130 port=27017 oplogSize=10000 fork=true noprealloc=true #slaver.conf dbpath=/mongodb/data/slaver logpath=/mongodb/log/slaver.log pidfilepath=/mongodb/slaver.pid directoryperdb=true logappend=true replSet=testrs bind_ip=10.10.148.131 port=27017 oplogSize=10000 fork=true noprealloc=true #arbiter.conf dbpath=/mongodb/data/arbiter logpath=/mongodb/log/arbiter.log pidfilepath=/mongodb/arbiter.pid directoryperdb=true logappend=true replSet=testrs bind_ip=10.10.148.132 port=27017 oplogSize=10000 fork=true noprealloc=true參數(shù)解釋:dbpath:數(shù)據(jù)存放目錄
logpath:日志存放路徑
pidfilepath:進程文件,方便停止mongodb
directoryperdb:為每一個數(shù)據(jù)庫按照數(shù)據(jù)庫名建立文件夾存放
logappend:以追加的方式記錄日志
replSet:replica set的名字
bind_ip:mongodb所綁定的ip地址
port:mongodb進程所使用的端口號,默認為27017
oplogSize:mongodb操作日志文件的最大大小。單位為Mb,默認為硬盤剩余空間的5%
fork:以后臺方式運行進程
noprealloc:不預先分配存儲
3.啟動mongodb
進入每個mongodb節(jié)點的bin目錄下
注意配置文件的路徑一定要保證正確,可以是相對路徑也可以是絕對路徑。
4.配置主,備,仲裁節(jié)點
可以通過客戶端連接mongodb,也可以直接在三個節(jié)點中選擇一個連接mongodb。
./mongo 10.10.148.130:27017 #ip和port是某個節(jié)點的地址 >use admin >cfg={ _id:"testrs", members:[ {_id:0,host:'10.10.148.130:27017',priority:2}, {_id:1,host:'10.10.148.131:27017',priority:1}, {_id:2,host:'10.10.148.132:27017',arbiterOnly:true}] }; >rs.initiate(cfg) #使配置生效 ?????? cfg是可以任意的名字,當然最好不要是mongodb的關(guān)鍵字,conf,config都可以。最外層的_id表示replica set的名字,members里包含的是所有節(jié)點的地址以及優(yōu)先級。優(yōu)先級最高的即成為主節(jié)點,即這里的10.10.148.130:27017。特別注意的是,對于仲裁節(jié)點,需要有個特別的配置——arbiterOnly:true。這個千萬不能少了,不然主備模式就不能生效。????? 配置的生效時間根據(jù)不同的機器配置會有長有短,配置不錯的話基本上十幾秒內(nèi)就能生效,有的配置需要一兩分鐘。如果生效了,執(zhí)行rs.status()命令會看到如下信息:
{"set" : "testrs","date" : ISODate("2013-01-05T02:44:43Z"),"myState" : 1,"members" : [{"_id" : 0,"name" : "10.10.148.130:27017","health" : 1,"state" : 1,"stateStr" : "PRIMARY","uptime" : 200,"optime" : Timestamp(1357285565000, 1),"optimeDate" : ISODate("2013-01-04T07:46:05Z"),"self" : true},{"_id" : 1,"name" : "10.10.148.131:27017","health" : 1,"state" : 2,"stateStr" : "SECONDARY","uptime" : 200,"optime" : Timestamp(1357285565000, 1),"optimeDate" : ISODate("2013-01-04T07:46:05Z"),"lastHeartbeat" : ISODate("2013-01-05T02:44:42Z"),"pingMs" : 0},{"_id" : 2,"name" : "10.10.148.132:27017","health" : 1,"state" : 7,"stateStr" : "ARBITER","uptime" : 200,"lastHeartbeat" : ISODate("2013-01-05T02:44:42Z"),"pingMs" : 0}],"ok" : 1 } 如果配置正在生效,其中會包含如下信息: "stateStr" : "RECOVERING"同時可以查看對應(yīng)節(jié)點的日志,發(fā)現(xiàn)正在等待別的節(jié)點生效或者正在分配數(shù)據(jù)文件。
?????? 現(xiàn)在基本上已經(jīng)完成了集群的所有搭建工作。至于測試工作,可以留給大家自己試試。一個是往主節(jié)點插入數(shù)據(jù),能從備節(jié)點查到之前插入的數(shù)據(jù)(查詢備節(jié)點可能會遇到某個問題,可以自己去網(wǎng)上查查看)。二是停掉主節(jié)點,備節(jié)點能變成主節(jié)點提供服務(wù)。三是恢復主節(jié)點,備節(jié)點也能恢復其備的角色,而不是繼續(xù)充當主的角色。二和三都可以通過rs.status()命令實時查看集群的變化。
Sharding
和Replica Set類似,都需要一個仲裁節(jié)點,但是Sharding還需要配置節(jié)點和路由節(jié)點。就三種集群搭建方式來說,這種是最復雜的。部署圖如下:
1.啟動數(shù)據(jù)節(jié)點
./mongod --fork --dbpath ../data/set1/ --logpath ../log/set1.log --replSet test #192.168.4.43 ./mongod --fork --dbpath ../data/set2/ --logpath ../log/set2.log --replSet test #192.168.4.44 ./mongod --fork --dbpath ../data/set3/ --logpath ../log/set3.log --replSet test #192.168.4.45 決策 不存儲數(shù)據(jù)2.啟動配置節(jié)點 ./mongod --configsvr --dbpath ../config/set1/ --port 20001 --fork --logpath ../log/conf1.log #192.168.4.30 ./mongod --configsvr --dbpath ../config/set2/ --port 20002 --fork --logpath ../log/conf2.log #192.168.4.31
3.啟動路由節(jié)點 ./mongos --configdb 192.168.4.30:20001,192.168.4.31:20002 --port 27017 --fork --logpath ../log/root.log #192.168.4.29
?????? 這里我們沒有用配置文件的方式啟動,其中的參數(shù)意義大家應(yīng)該都明白。一般來說一個數(shù)據(jù)節(jié)點對應(yīng)一個配置節(jié)點,仲裁節(jié)點則不需要對應(yīng)的配置節(jié)點。注意在啟動路由節(jié)點時,要將配置節(jié)點地址寫入到啟動命令里。
4.配置Replica Set
?????? 這里可能會有點奇怪為什么Sharding會需要配置Replica Set。其實想想也能明白,多個節(jié)點的數(shù)據(jù)肯定是相關(guān)聯(lián)的,如果不配一個Replica Set,怎么標識是同一個集群的呢。這也是人家mongodb的規(guī)定,咱們還是遵守吧。配置方式和之前所說的一樣,定一個cfg,然后初始化配置。
./mongo 192.168.4.43:27017 #ip和port是某個節(jié)點的地址 >use admin >cfg={ _id:"testrs", members:[ {_id:0,host:'192.168.4.43:27017',priority:2}, {_id:1,host:'192.168.4.44:27017',priority:1}, {_id:2,host:'192.168.4.45:27017',arbiterOnly:true}] }; >rs.initiate(cfg) #使配置生效
5.配置Sharding
./mongo 192.168.4.29:27017 #這里必須連接路由節(jié)點 >sh.addShard("test/192.168.4.43:27017") #test表示replica set的名字 當把主節(jié)點添加到shard以后,會自動找到set里的主,備,決策節(jié)點 >db.runCommand({enableSharding:"diameter_test"}) #diameter_test is database name >db.runCommand( { shardCollection: "diameter_test.dcca_dccr_test",key:{"__avpSessionId":1}}) ?????? 第一個命令很容易理解,第二個命令是對需要進行Sharding的數(shù)據(jù)庫進行配置,第三個命令是對需要進行Sharding的Collection進行配置,這里的dcca_dccr_test即為Collection的名字。另外還有個key,這個是比較關(guān)鍵的東西,對于查詢效率會有很大的影響,具體可以查看 Shard Key Overview?????? 到這里Sharding也已經(jīng)搭建完成了,以上只是最簡單的搭建方式,其中某些配置仍然使用的是默認配置。如果設(shè)置不當,會導致效率異常低下,所以建議大家多看看官方文檔再進行默認配置的修改。
Master-Slaver
這個是最簡答的集群搭建,不過準確說也不能算是集群,只能說是主備。并且官方已經(jīng)不推薦這種方式,所以在這里只是簡單的介紹下吧,搭建方式也相對簡單。
./mongod --master --dbpath /data/masterdb/ #主節(jié)點./mongod --slave –source <masterip:masterport> --dbpath /data/slavedb/ 備節(jié)點?????? 基本上只要在主節(jié)點和備節(jié)點上分別執(zhí)行這兩條命令,Master-Slaver就算搭建完成了。我沒有試過主節(jié)點掛掉后備節(jié)點是否能變成主節(jié)點,不過既然已經(jīng)不推薦了,大家就沒必要去使用了。
?????? 以上三種集群搭建方式首選Replica Set,只有真的是大數(shù)據(jù),Sharding才能顯現(xiàn)威力,畢竟備節(jié)點同步數(shù)據(jù)是需要時間的。Sharding可以將多片數(shù)據(jù)集中到路由節(jié)點上進行一些對比,然后將數(shù)據(jù)返回給客戶端,但是效率還是比較低的說。
?????? 我自己有測試過,不過具體的機器配置已經(jīng)不記得了。Replica Set的ips在數(shù)據(jù)達到1400w條時基本能達到1000左右,而Sharding在300w時已經(jīng)下降到500ips了,兩者的單位數(shù)據(jù)大小大概是10kb。大家在應(yīng)用的時候還是多多做下性能測試,畢竟不像Redis有benchmark。
?????? Mongodb現(xiàn)在用的還是比較多的,但是個人覺得配置太多了。。。。我看官網(wǎng)都看了好多天,才把集群搭建的配置和注意要點弄明白。而且用過的人應(yīng)該知道m(xù)ongodb吃內(nèi)存的問題,解決辦法只能通過ulimit來控制內(nèi)存使用量,但是如果控制不好的話,mongodb會掛掉。。。
過段時間我會寫一篇關(guān)于項目里使用mongodb所涉及到的具體業(yè)務(wù),各位有興趣可以關(guān)注下。
總結(jié)
以上是生活随笔為你收集整理的Mongodb的三种集群方式的搭建的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 鬼谷八荒存档修改器
- 下一篇: pyhton-miniblink