MongoDB 運(yùn)維實(shí)戰(zhàn)總結(jié)
公眾號(hào)關(guān)注“杰哥的IT之旅”，
選擇“星標(biāo)”，重磅干貨，第一時(shí)間送達(dá)！
一、MongoDB 集群簡(jiǎn)介
MongoDB是一個(gè)基于分布式文件存儲(chǔ)的數(shù)據(jù)庫(kù)，其目的在于為WEB應(yīng)用提供可擴(kuò)展的高性能數(shù)據(jù)存儲(chǔ)解決方案。下面將以3臺(tái)機(jī)器介紹最常見(jiàn)的集群方案。具體介紹。可以查看官網(wǎng)
https://docs.mongodb.com/v3.4/introduction/
1、集群組件的介紹
mongos（路由處理）：
作為Client與MongoDB集群的請(qǐng)求入口，所有用戶請(qǐng)求都會(huì)透過(guò)Mongos協(xié)調(diào)，它會(huì)將數(shù)據(jù)請(qǐng)求發(fā)到對(duì)應(yīng)的Shard(mongod)服務(wù)器上，再將數(shù)據(jù)合并后回傳給用戶。
config server（配置節(jié)點(diǎn)）：
即：配置服務(wù)器；主要保存數(shù)據(jù)庫(kù)的元數(shù)據(jù)，包含數(shù)據(jù)的分布(分片)以及數(shù)據(jù)結(jié)構(gòu)，mongos收到client發(fā)出的需求后，會(huì)從config server加載配置信息并緩存于內(nèi)存中。
一般在生產(chǎn)環(huán)境會(huì)配置不只一臺(tái)config server，因?yàn)樗４娴脑獢?shù)據(jù)極為重要，若損壞則影響整個(gè)集群運(yùn)作。
shard（分片實(shí)例存儲(chǔ)數(shù)據(jù)）：
shard就是分片。MongoDB利用分片的機(jī)制來(lái)實(shí)現(xiàn)數(shù)據(jù)分布存儲(chǔ)與處理，達(dá)到橫向擴(kuò)容的目的。默認(rèn)情況下，數(shù)據(jù)在分片之間會(huì)自動(dòng)進(jìn)行移轉(zhuǎn)，以達(dá)到平衡，此動(dòng)作是靠一個(gè)叫平衡器(balancer)的機(jī)制達(dá)成。
replica set（副本集）：
副本集實(shí)現(xiàn)了數(shù)據(jù)庫(kù)高可用，若沒(méi)做副本集，則一旦存放數(shù)據(jù)的服務(wù)器節(jié)點(diǎn)掛掉，數(shù)據(jù)就丟失了，相反若配置了副本集，則同樣的數(shù)據(jù)會(huì)保存在副本服務(wù)器中(副本節(jié)點(diǎn))，一般副本集包含了一個(gè)主節(jié)點(diǎn)與多個(gè)副本節(jié)點(diǎn)，必要時(shí)還會(huì)配置arbiter(仲裁結(jié)點(diǎn))作為節(jié)點(diǎn)掛掉時(shí)投票用。
arbiter（仲裁節(jié)點(diǎn)）：
仲裁服務(wù)器本身不包含數(shù)據(jù)，僅能在主節(jié)點(diǎn)故障時(shí)，檢測(cè)所有副本服務(wù)器并選舉出新的主節(jié)點(diǎn)，其實(shí)現(xiàn)方式是通過(guò)主節(jié)點(diǎn)、副本節(jié)點(diǎn)、仲裁服務(wù)器之間的心跳(Heart beat)實(shí)現(xiàn)。
2、MongoDB應(yīng)用場(chǎng)景
網(wǎng)站數(shù)據(jù)：適合實(shí)時(shí)的插入，更新與查詢，并具備網(wǎng)站實(shí)時(shí)數(shù)據(jù)存儲(chǔ)所需的復(fù)制及高度伸縮性。
緩存：由于性能很高，也適合作為信息基礎(chǔ)設(shè)施的緩存層。在系統(tǒng)重啟之后，搭建的持久化緩存可以避免下層的數(shù)據(jù)源過(guò)載。
大尺寸、低價(jià)值的數(shù)據(jù)：使用傳統(tǒng)的關(guān)系數(shù)據(jù)庫(kù)存儲(chǔ)一些數(shù)據(jù)時(shí)可能會(huì)比較貴，在此之前，很多程序員往往會(huì)選擇傳統(tǒng)的文件進(jìn)行存儲(chǔ)。
高伸縮性的場(chǎng)景：非常適合由數(shù)十或者數(shù)百臺(tái)服務(wù)器組成的數(shù)據(jù)庫(kù)。
用于對(duì)象及JSON數(shù)據(jù)的存儲(chǔ)：MongoDB的BSON數(shù)據(jù)格式非常適合文檔格式化的存儲(chǔ)及查詢。
3、選用MongoDB的緣由
選用MongoDB的數(shù)據(jù)是以BSON的數(shù)據(jù)格式，高度伸縮方便擴(kuò)展，并且數(shù)據(jù)水平擴(kuò)展非常簡(jiǎn)單，支持海量數(shù)據(jù)存儲(chǔ)，性能強(qiáng)悍。
二、集群的監(jiān)測(cè)
1、監(jiān)測(cè)數(shù)據(jù)庫(kù)存儲(chǔ)統(tǒng)計(jì)信息
docker中進(jìn)入mongos或shard實(shí)例，執(zhí)行以下命令：
docker exec -it mongos bash;
mongo --port 20001;
use admin;
db.auth("root","XXX");
說(shuō)明:通過(guò)此命令，可以查詢集群的成員的集合數(shù)量、索引數(shù)量等相關(guān)數(shù)據(jù)。
db.stats();
2、查看數(shù)據(jù)庫(kù)的統(tǒng)計(jì)信息
說(shuō)明：通過(guò)此命令，可以查看操作數(shù)量、內(nèi)存使用狀況、網(wǎng)絡(luò)io等
db.runCommand( { serverStatus: 1 } )；
3、檢查復(fù)制集成員狀態(tài)
rs.status()；
三、基本的運(yùn)維操作
1、設(shè)置和查看慢查詢
# 設(shè)置慢查詢
db.setProfilingLevel(1,200);
# 查看慢查詢級(jí)別
db.getProfilingLevel();
# 查詢慢查詢?nèi)罩荆嗣钍轻槍?duì)于某一庫(kù)進(jìn)行設(shè)置
db.system.profile.find({ ns : 'dbName.collectionName'}).limit(10).sort( { ts : -1 } ).pretty();
2、查看執(zhí)行操作時(shí)間較長(zhǎng)的動(dòng)作
db.currentOp({"active" : true,"secs_running" : { "$gt" : 2000 }});
3、動(dòng)態(tài)調(diào)整日志級(jí)別和設(shè)置緩存大小
# 設(shè)置日志級(jí)別參數(shù)
db.adminCommand( { "getParameter": 1, "logLevel":1});
# 設(shè)置cache大小參數(shù)
db.adminCommand( { "setParameter": 1, "wiredTigerEngineRuntimeConfig": "cache_size=4G"});
4、添加和移除復(fù)制集成員
# 查看復(fù)制集成員
rs.status().members;
# 添加成員
rs.add('127.0.0.1:20001')；
# 移除成員
rs.remove('127.0.0.1:20001')；
5、設(shè)置數(shù)據(jù)庫(kù)和集合分片
# 在mongos admin庫(kù)設(shè)置庫(kù)允許分片
sh.enableSharding("dbName");
# 在mongos 的admin庫(kù)設(shè)置集合分片片鍵
sh.shardCollection("dbName.collectionName", { filedName: 1} );
6、添加和移除分片
# 查看分片狀態(tài)
sh.status()；
# 在mongos執(zhí)行添加分片（可以為單個(gè)實(shí)例或復(fù)制集）
db.runCommand( { removeShard: "shardName" } )；
db.runCommand({addshard:"rs1/ip-1:20001,ip-2:20001,ip-3:20001"});
# 在mongos執(zhí)行移除分片
db.runCommand( { removeShard: "shard3" } )；
# 在mongos執(zhí)行刷新mongos配置信息
db.runCommand("flushRouterConfig"))；
說(shuō)明： 移除分片命令至少執(zhí)行兩次才能成功刪除，執(zhí)行到state為completed才真正刪除，否則就是沒(méi)用刪除成功，該分片處于{"draining" : true}狀態(tài)，該狀態(tài)下不但該分片沒(méi)用刪除成功，而且還影響接下來(lái)刪除其他分片操作，遇到該狀態(tài)再執(zhí)行一次removeshard即可，最好就是刪除分片時(shí)一直重復(fù)執(zhí)行刪除命令，直到state為completed；還有一個(gè)需要注意的地方就是：被成功刪除的分片如果想要再加入集群時(shí)，必須將data數(shù)據(jù)目錄清理干凈才可以再加入集群，否則即使能加入成功也不會(huì)存儲(chǔ)數(shù)據(jù)，集合都不會(huì)被創(chuàng)建 另外：在刪除分片的時(shí)有可能整個(gè)過(guò)程出現(xiàn)無(wú)限{"draining" : true}狀態(tài)，等多久還是這樣，而且分片上面的塊一個(gè)都沒(méi)有移動(dòng)到別的分片，解決辦法是：在config的config數(shù)據(jù)庫(kù)的shard集合中找到該分片的信息，并將draining字段由True改為False,再繼續(xù)試著刪除操作” 上面這句會(huì)立即返回，實(shí)際在后臺(tái)執(zhí)行。在數(shù)據(jù)移除的過(guò)程當(dāng)中，一定要注意實(shí)例的日志信息，可能出現(xiàn)數(shù)據(jù)塊在遷移的過(guò)程中，始終找不到邊界條件，導(dǎo)致一直數(shù)據(jù)遷移不成功，一直重試，解決方案是刪除邊界數(shù)據(jù)，重啟實(shí)例；。如果此分片為主分片，需要先遷移主分片。db.runCommand( { movePrimary: "XXX", to: "other" })；在完成刪除后，所有mongos上運(yùn)行下面命令，再對(duì)外提供服務(wù)，當(dāng)然也可以重新啟動(dòng)所有mongos實(shí)例 。
7、數(shù)據(jù)的導(dǎo)入導(dǎo)出
# 導(dǎo)出允許指定導(dǎo)出條件和字段
mongoexport -h 127.0.0.1 --port 20001 -uxxx -pxxx -d xxx -c mobileIndex -o XXX.txt
mongoimport -h 127.0.0.1 --port 20001 -uxxx -pxxx -d xxx -c mobileIndex --file XXX.txt
四、MongoDB數(shù)據(jù)遷移
1、遷移復(fù)制集當(dāng)中的成員
1、關(guān)閉 mongod 實(shí)例,為了確保安全關(guān)閉,使用 shutdown 命令；
2、將數(shù)據(jù)目錄(即 dbPath )轉(zhuǎn)移到新機(jī)器上；
3、在新機(jī)器上啟動(dòng) mongod，其中節(jié)點(diǎn)的數(shù)據(jù)目錄為copy的文件目錄 ；
4、連接到復(fù)制集當(dāng)前的主節(jié)點(diǎn)上；
如果新節(jié)點(diǎn)的地址發(fā)生變化,使用 rs.reconfig() 更新 復(fù)制集配置文檔 ；
舉例,下面的命令過(guò)程將成員中位于第 2 位的地址進(jìn)行更新:
cfg = rs.conf()
cfg.members[2].host = "127.0.0.1:27017"
rs.reconfig(cfg)
使用 rs.conf() 確認(rèn)使用了新的配置.
等待所有成員恢復(fù)正常,使用 rs.status() 檢測(cè)成員狀態(tài)。
2、遷移復(fù)制集主節(jié)點(diǎn)
在遷移主節(jié)點(diǎn)的時(shí)候,需要復(fù)制集選舉出一個(gè)新的主節(jié)點(diǎn),在進(jìn)行選舉的時(shí)候,復(fù)制集將讀寫,通常,這只會(huì)持續(xù)很短的時(shí)間,不過(guò),應(yīng)該盡可能在影響較小的時(shí)間段內(nèi)遷移主節(jié)點(diǎn).
1、將主節(jié)點(diǎn)降級(jí),以使得正常的 failover開(kāi)始.要將主節(jié)點(diǎn)降級(jí),連接到一個(gè)主節(jié)點(diǎn),使用 replSetStepDown方法或者使用rs.stepDown()方法,下面的例子使用了 rs.stepDown()方法進(jìn)行降級(jí):
rs.stepDown()
2、等主節(jié)點(diǎn)降級(jí)為從節(jié)點(diǎn),另一個(gè)成員成為 PRIMARY 之后,可以按照 “遷移復(fù)制集的一個(gè)成員”遷移這個(gè)降級(jí)了的節(jié)點(diǎn).可以使用 rs.status()來(lái)確認(rèn)狀態(tài)的改變。
3、從復(fù)制集其他節(jié)點(diǎn)恢復(fù)數(shù)據(jù)
MongoDB 通過(guò)復(fù)制集能保證高可靠的數(shù)據(jù)存儲(chǔ)，通常生產(chǎn)環(huán)境建議使用「3節(jié)點(diǎn)復(fù)制集」，這樣即使其中一個(gè)節(jié)點(diǎn)崩潰了無(wú)法啟動(dòng)，我們可以直接將其數(shù)據(jù)清掉，重新啟動(dòng)后，以全新的 Secondary 節(jié)點(diǎn)加入復(fù)制集，或者是將其他節(jié)點(diǎn)的數(shù)據(jù)復(fù)制過(guò)來(lái)，重新啟動(dòng)節(jié)點(diǎn)，它會(huì)自動(dòng)的同步數(shù)據(jù)，這樣也就達(dá)到了恢復(fù)數(shù)據(jù)的目的。
1、關(guān)閉需要數(shù)據(jù)同步的節(jié)點(diǎn)
docker stop node; # docker環(huán)境中
db.shutdownServer({timeoutSecs: 60}); # 非docker環(huán)境
2、拷貝目標(biāo)節(jié)點(diǎn)機(jī)器的數(shù)據(jù)存儲(chǔ)目錄(/dbPath)到當(dāng)前機(jī)器的指定目錄。
scp 目標(biāo)節(jié)點(diǎn) shard/data -> 當(dāng)前節(jié)點(diǎn) shard/data
3、當(dāng)前節(jié)點(diǎn)以復(fù)制過(guò)來(lái)的數(shù)據(jù)文件啟動(dòng)節(jié)點(diǎn)
4、將新的節(jié)點(diǎn)添加到復(fù)制集
# 進(jìn)入復(fù)制集的主節(jié)點(diǎn)，執(zhí)行添加新的節(jié)點(diǎn)命令
rs.add("hostNameNew:portNew");
# 等待所有成員恢復(fù)正常,檢測(cè)成員狀態(tài)
rs.status();
# 移除原來(lái)的節(jié)點(diǎn)
rs.remove("hostNameOld>:portOld");
五、MongoDB線上問(wèn)題場(chǎng)景解決
1、MongoDB 新建索引導(dǎo)致庫(kù)被鎖
問(wèn)題說(shuō)明：某線上千萬(wàn)級(jí)別集合，為優(yōu)化業(yè)務(wù)，直接執(zhí)行新建索引命令，導(dǎo)致整個(gè)庫(kù)被鎖，應(yīng)用服務(wù)出現(xiàn)不可用。
解決方案：找出此操作進(jìn)程，并且殺死。改為后臺(tái)新建索引，速度很會(huì)慢，但是不會(huì)影響業(yè)務(wù)，該索引只會(huì)在新建完成之后，才會(huì)生效；
# 查詢運(yùn)行時(shí)間超過(guò)200ms操作
db.currentOp({"active" : true,"secs_running" : { "$gt" : 2000 }}) ；
# 殺死執(zhí)行時(shí)間過(guò)長(zhǎng)操作操作
db.killOp(opid)
# 后臺(tái)新建索引
db.collectionNmae.ensureIndex({filedName:1}, {background:true});
2、MongoDB沒(méi)有限制內(nèi)存，導(dǎo)致實(shí)例退出
問(wèn)題說(shuō)明： 生產(chǎn)環(huán)境某臺(tái)機(jī)器啟動(dòng)多個(gè)mongod實(shí)例，運(yùn)行一段時(shí)間過(guò)后，進(jìn)程莫名被殺死；
解決方案： 現(xiàn)在MongoDB使用WiredTiger作為默認(rèn)存儲(chǔ)引擎，MongoDB同時(shí)使用WiredTiger內(nèi)部緩存和文件系統(tǒng)緩存。從3.4開(kāi)始，WiredTiger內(nèi)部緩存默認(rèn)使用較大的一個(gè)：50％（RAM - 1 GB），或256 MB。
例如，在總共4GB RAM的系統(tǒng)上，WiredTiger緩存將使用1.5GB的RAM（）。相反，具有總共1.25 GB RAM的系統(tǒng)將為WiredTiger緩存分配256 MB，因?yàn)檫@超過(guò)總RAM的一半減去1千兆字節(jié)（）。0.5 * (4 GB - 1GB) = 1.5 GB``0.5 * (1.25 GB - 1 GB) = 128 MB < 256 MB。如果一臺(tái)機(jī)器存在多個(gè)實(shí)例，在內(nèi)存不足的情景在，操作系統(tǒng)會(huì)殺死部分進(jìn)程；
# 要調(diào)整WiredTiger內(nèi)部緩存的大小，調(diào)節(jié)cache規(guī)模不需要重啟服務(wù)，我們可以動(dòng)態(tài)調(diào)整：
db.adminCommand( { "setParameter": 1, "wiredTigerEngineRuntimeConfig": "cache_size=xxG"})
3、MongoDB刪除數(shù)據(jù)，不釋放磁盤空間
問(wèn)題說(shuō)明：在刪除大量數(shù)據(jù)(本人操作的數(shù)據(jù)量在2000萬(wàn)+)的情景下，并且在生產(chǎn)環(huán)境中請(qǐng)求量較大，此時(shí)機(jī)器的cpu負(fù)載會(huì)顯得很高，甚至機(jī)器卡頓無(wú)法操作，這樣的操作應(yīng)該謹(jǐn)慎分批量操作；在刪除命令執(zhí)行結(jié)束之后，發(fā)現(xiàn)磁盤的數(shù)據(jù)量大小并沒(méi)有改變。
解決方案：
方案一： 我們可以使用MongoDB提供的在線數(shù)據(jù)收縮的功能，通過(guò)Compact命令
db.collectionName.runCommand("compact")進(jìn)行Collection級(jí)別的數(shù)據(jù)收縮，去除集合所在文件碎片。此命令是以O(shè)nline的方式提供收縮，收縮的同時(shí)會(huì)影響到線上的服務(wù)。為了解決這個(gè)問(wèn)題，可以先在從節(jié)點(diǎn)執(zhí)行磁盤整理命令，操作結(jié)束后，再切換主節(jié)點(diǎn)，將原來(lái)的主節(jié)點(diǎn)變?yōu)閺墓?jié)點(diǎn)，重新執(zhí)行Compact命令即可。
方案二： 使用從節(jié)點(diǎn)重新同步，secondary節(jié)點(diǎn)重同步，刪除secondary節(jié)點(diǎn)中指定數(shù)據(jù)，使之與primary重新開(kāi)始數(shù)據(jù)同步。當(dāng)副本集成員數(shù)據(jù)太過(guò)陳舊，也可以使用重新同步。數(shù)據(jù)的重新同步與直接復(fù)制數(shù)據(jù)文件不同，MongoDB會(huì)只同步數(shù)據(jù)，因此重同步完成后的數(shù)據(jù)文件是沒(méi)有空集合的，以此實(shí)現(xiàn)了磁盤空間的回收。
若是primary節(jié)點(diǎn)，先強(qiáng)制將之變?yōu)閟econdary節(jié)點(diǎn)，否則跳過(guò)此步驟：rs.stepdown(120)；
然后在primary上刪除secondary節(jié)點(diǎn)：rs.remove("IP:port");
刪除secondary節(jié)點(diǎn)dbpath下的所有文件
將節(jié)點(diǎn)重新加入集群，然后使之自動(dòng)進(jìn)行數(shù)據(jù)的同步：rs.add("IP:port");
等數(shù)據(jù)同步完成后，循環(huán)1-4的步驟可以將集群中所有節(jié)點(diǎn)的磁盤空間釋放
針對(duì)一些特殊情況，不能下線secondary節(jié)點(diǎn)的，可以新增一個(gè)節(jié)點(diǎn)到副本集中，然后secondary就自動(dòng)開(kāi)始數(shù)據(jù)的同步了。總的來(lái)說(shuō)，重同步的方法是比較好的，第一基本不會(huì)阻塞副本集的讀寫，第二消耗的時(shí)間相對(duì)前兩種比較短。
4、MongoDB機(jī)器負(fù)載極高
問(wèn)題說(shuō)明： 此情景是在客戶請(qǐng)求較大的情景性，由于部署MongoDB的機(jī)器包含一主一從，MongoDB使得IO100%，數(shù)據(jù)庫(kù)阻塞，出現(xiàn)大量慢查詢，進(jìn)而導(dǎo)致機(jī)器負(fù)載極高，應(yīng)用服務(wù)完全不可用。
解決方案： 在沒(méi)有機(jī)器及時(shí)擴(kuò)容的狀況下，首要任務(wù)便是減小機(jī)器的IO，在一臺(tái)機(jī)器出現(xiàn)一主一從，在大量數(shù)據(jù)寫入的情況下，會(huì)互相搶占IO資源。于是此時(shí)摒棄了MongoDB高可用的特點(diǎn)，摘掉了復(fù)制集當(dāng)中的從節(jié)點(diǎn)，保證每臺(tái)機(jī)器只有一個(gè)節(jié)點(diǎn)可以占用磁盤資源。之后，機(jī)器負(fù)載立馬下來(lái)，服務(wù)變?yōu)檎？捎脿顟B(tài)，但是此時(shí)MongoDB無(wú)法保證數(shù)據(jù)的完整性，一旦有主節(jié)點(diǎn)掛掉便會(huì)丟失數(shù)據(jù)。此方案只是臨時(shí)方法，根本解決是可以增加機(jī)器的內(nèi)存、使用固態(tài)硬盤，或者采用增加分片集來(lái)減少單個(gè)機(jī)器的讀寫壓力。
# 進(jìn)入主節(jié)點(diǎn)，執(zhí)行移除成員的命令
rs.remove("127.0.0.1:20001");
# 注意：切勿直接關(guān)停實(shí)例
5、MongoDB分片鍵選擇不當(dāng)導(dǎo)致熱讀熱寫
問(wèn)題說(shuō)明：生產(chǎn)環(huán)境中，某一集合的片鍵使用了與_id生成方式相似，含有時(shí)間序列的字段作為升序片鍵，導(dǎo)致數(shù)據(jù)寫入時(shí)都在一個(gè)數(shù)據(jù)塊，隨著數(shù)據(jù)量增大，會(huì)造成數(shù)據(jù)遷移到前面的分區(qū)，造成系統(tǒng)資源的占用，偶爾出現(xiàn)慢查詢。
解決方案：臨時(shí)方案設(shè)置數(shù)據(jù)遷移的窗口，放在在正常的時(shí)間區(qū)段，對(duì)業(yè)務(wù)造成影響。根本解決是更換片鍵。
# 連接mongos實(shí)例，執(zhí)行以下命令
db.settings.update({ _id : "balancer" }, { $set : { activeWindow : { start : "23:00", stop : "4:00" } } }, true )；
# 查看均衡窗口
sh.getBalancerWindow()；
六、MongoDB優(yōu)化建議
1、應(yīng)用層面優(yōu)化
查詢優(yōu)化：確認(rèn)你的查詢是否充分利用到了索引，用explain命令查看一下查詢執(zhí)行的情況，添加必要的索引，避免掃表操作。
合理設(shè)計(jì)分片鍵：增量sharding-key：適合于可劃分范圍的字段，比如integer、float、date類型的，查詢時(shí)比較快。隨機(jī)sharding-key: 適用于寫操作頻繁的場(chǎng)景，而這種情況下如果在一個(gè)shard上進(jìn)行會(huì)使得這個(gè)shard負(fù)載比其他高，不夠均衡，故而希望能hash查詢key，將寫分布在多個(gè)shard上進(jìn)行,考慮復(fù)合key作為sharding key， 總的原則是查詢快，盡量減少跨shard查詢，balance均衡次數(shù)少；單一遞增的sharding key，可能會(huì)造成寫數(shù)據(jù)全部在最后一片上，最后一片的寫壓力增大，數(shù)據(jù)量增大，會(huì)造成數(shù)據(jù)遷移到前面的分區(qū)。MongoDB默認(rèn)是單條記錄16M，尤其在使用GFS的時(shí)候，一定要注意shrading-key的設(shè)計(jì)。不合理的sharding-key會(huì)出現(xiàn)，多個(gè)文檔，在一個(gè)chunks上，同時(shí)，因?yàn)镚FS中存貯的往往是大文件，導(dǎo)致MongoDB在做balance的時(shí)候無(wú)法通過(guò)sharding-key來(lái)把這多個(gè)文檔分開(kāi)到不同的shard上， 這時(shí)候MongoDB會(huì)不斷報(bào)錯(cuò)最后導(dǎo)致MongoDB倒掉。解決辦法：加大chunks大小（治標(biāo)），設(shè)計(jì)合理的sharding-key（治本）。
通過(guò)profile來(lái)監(jiān)控?cái)?shù)據(jù)：進(jìn)行優(yōu)化查看當(dāng)前是否開(kāi)啟profile功能 用命令db.getProfilingLevel() 返回level等級(jí)，值為0|1|2，分別代表意思：0代表關(guān)閉，1代表記錄慢命令，2代表全部。開(kāi)啟profile功能命令為 db.setProfilingLevel(level); #level等級(jí)，值level為1的時(shí)候，慢命令默認(rèn)值為100ms，更改為db.setProfilingLevel(level,slowms)如db.setProfilingLevel(1,50)這樣就更改為50毫秒通過(guò)db.system.profile.find() 查看當(dāng)前的監(jiān)控日志。
2、硬件層面優(yōu)化
確定熱數(shù)據(jù)大小：可能你的數(shù)據(jù)集非常大，但是這并不那么重要，重要的是你的熱數(shù)據(jù)集有多大，你經(jīng)常訪問(wèn)的數(shù)據(jù)有多大(包括經(jīng)常訪問(wèn)的數(shù)據(jù)和所有索引數(shù)據(jù))。使用MongoDB，你最好保證你的熱數(shù)據(jù)在你機(jī)器的內(nèi)存大小之下，保證內(nèi)存能容納所有熱數(shù)據(jù)；
選擇正確的文件系統(tǒng)：MongoDB的數(shù)據(jù)文件是采用的預(yù)分配模式，并且在Replication里面，Master和Replica Sets的非Arbiter節(jié)點(diǎn)都是會(huì)預(yù)先創(chuàng)建足夠的空文件用以存儲(chǔ)操作日志。這些文件分配操作在一些文件系統(tǒng)上可能會(huì)非常慢，導(dǎo)致進(jìn)程被Block。所以我們應(yīng)該選擇那些空間分配快速的文件系統(tǒng)。這里的結(jié)論是盡量不要用ext3，用ext4或xfs；
3、架構(gòu)上的優(yōu)化
盡可能讓主從節(jié)點(diǎn)分?jǐn)傇诓煌臋C(jī)器上，避免IO操作的與MongoDB在同一臺(tái)機(jī)器；
七、總結(jié)
MongoDB具有高性能、易擴(kuò)展、易上手等特點(diǎn)，在正確使用的情況下，其本身性能還是非常強(qiáng)悍，在一些關(guān)鍵點(diǎn)如片鍵的選擇、內(nèi)存的大小和磁盤IO，往往是限制其性能的最大瓶頸。針對(duì)于片鍵，在業(yè)務(wù)系統(tǒng)初期，可以先不對(duì)集合進(jìn)行數(shù)據(jù)分片，因?yàn)榉制I一旦確定就無(wú)法修改，后期可根據(jù)業(yè)務(wù)系統(tǒng)的情況，認(rèn)真篩選字段。一般情況下，不建議使用升序片鍵（是一種隨著時(shí)間穩(wěn)定增長(zhǎng)的字段,自增長(zhǎng)的主鍵是升序鍵 ），因?yàn)檫@個(gè)會(huì)導(dǎo)致局部的熱讀熱寫，不能發(fā)揮分片集群的真正實(shí)力。建議使用hash片鍵或者隨機(jī)分發(fā)的片鍵，這樣可以保證數(shù)據(jù)的均勻分發(fā)在分片節(jié)點(diǎn)；針對(duì)于內(nèi)存，建議內(nèi)存的大小能夠包含熱數(shù)據(jù)的大小加索引大小，保證內(nèi)存能容納所有熱數(shù)據(jù) 。針對(duì)于磁盤資源，MongoDB的高速讀寫是以磁盤的IO作為基礎(chǔ)，為了保證其性能，建議將主從節(jié)點(diǎn)以及高IO的應(yīng)用分離，以保證IO資源盡可能不存在搶占。
作者：浩瀚無(wú)邊_8704
來(lái)源：https://www.jianshu.com/p/f05f65d3a1dc
推薦閱讀
