MySQL 與 Redis 緩存的同步方案，建議收藏！
點(diǎn)擊上方[全棧開發(fā)者社區(qū)]→右上角[...]→[設(shè)為星標(biāo)?]
本文介紹MySQL與Redis緩存的同步的兩種方案
方案1：通過MySQL自動(dòng)同步刷新Redis，MySQL觸發(fā)器+UDF函數(shù)實(shí)現(xiàn)
方案2：解析MySQL的binlog實(shí)現(xiàn)，將數(shù)據(jù)庫中的數(shù)據(jù)同步到Redis
一、方案1（UDF）
場(chǎng)景分析： 當(dāng)我們對(duì)MySQL數(shù)據(jù)庫進(jìn)行數(shù)據(jù)操作時(shí)，同時(shí)將相應(yīng)的數(shù)據(jù)同步到Redis中，同步到Redis之后，查詢的操作就從Redis中查找
過程大致如下：
在MySQL中對(duì)要操作的數(shù)據(jù)設(shè)置觸發(fā)器Trigger，監(jiān)聽操作 客戶端（NodeServer）向MySQL中寫入數(shù)據(jù)時(shí)，觸發(fā)器會(huì)被觸發(fā)，觸發(fā)之后調(diào)用MySQL的UDF函數(shù) UDF函數(shù)可以把數(shù)據(jù)寫入到Redis中，從而達(dá)到同步的效果
方案分析： 這種方案適合于讀多寫少，并且不存并發(fā)寫的場(chǎng)景 因?yàn)镸ySQL觸發(fā)器本身就會(huì)造成效率的降低，如果一個(gè)表經(jīng)常被操作，這種方案顯示是不合適的
演示案例
下面是MySQL的表
下面是UDF的解析代碼
定義對(duì)應(yīng)的觸發(fā)器
二、方案2（解析binlog）
在介紹方案2之前我們先來介紹一下MySQL復(fù)制的原理，如下圖所示：
主服務(wù)器操作數(shù)據(jù)，并將數(shù)據(jù)寫入Bin log 從服務(wù)器調(diào)用I/O線程讀取主服務(wù)器的Bin log，并且寫入到自己的Relay log中，再調(diào)用SQL線程從Relay log中解析數(shù)據(jù)，從而同步到自己的數(shù)據(jù)庫中
方案2就是：
上面MySQL的整個(gè)復(fù)制流程可以總結(jié)為一句話，那就是：從服務(wù)器讀取主服務(wù)器Bin log中的數(shù)據(jù)，從而同步到自己的數(shù)據(jù)庫中 我們方案2也是如此，就是在概念上把主服務(wù)器改為MySQL，把從服務(wù)器改為Redis而已（如下圖所示），當(dāng)MySQL中有數(shù)據(jù)寫入時(shí)，我們就解析MySQL的Bin log，然后將解析出來的數(shù)據(jù)寫入到Redis中，從而達(dá)到同步的效果
例如下面是一個(gè)云數(shù)據(jù)庫實(shí)例分析：
云數(shù)據(jù)庫與本地?cái)?shù)據(jù)庫是主從關(guān)系。云數(shù)據(jù)庫作為主數(shù)據(jù)庫主要提供寫，本地?cái)?shù)據(jù)庫作為從數(shù)據(jù)庫從主數(shù)據(jù)庫中讀取數(shù)據(jù) 本地?cái)?shù)據(jù)庫讀取到數(shù)據(jù)之后，解析Bin log，然后將數(shù)據(jù)寫入寫入同步到Redis中，然后客戶端從Redis讀數(shù)據(jù)
這個(gè)技術(shù)方案的難點(diǎn)就在于： 如何解析MySQL的Bin Log。但是這需要對(duì)binlog文件以及MySQL有非常深入的理解，同時(shí)由于binlog存在Statement/Row/Mixedlevel多種形式，分析binlog實(shí)現(xiàn)同步的工作量是非常大的
Canal開源技術(shù)
canal是阿里巴巴旗下的一款開源項(xiàng)目，純Java開發(fā)?；跀?shù)據(jù)庫增量日志解析，提供增量數(shù)據(jù)訂閱&消費(fèi)，目前主要支持了MySQL（也支持mariaDB）
開源參考地址有：https://github.com/liukelin/canal_mysql_nosql_sync
工作原理（模仿MySQL復(fù)制）：
canal模擬mysql slave的交互協(xié)議，偽裝自己為mysql slave，向mysql master發(fā)送dump協(xié)議 mysql master收到dump請(qǐng)求，開始推送binary log給slave（也就是canal） canal解析binary log對(duì)象（原始為byte流）
架構(gòu)： eventParser (數(shù)據(jù)源接入，模擬slave協(xié)議和master進(jìn)行交互，協(xié)議解析) eventSink (Parser和Store鏈接器，進(jìn)行數(shù)據(jù)過濾，加工，分發(fā)的工作) eventStore (數(shù)據(jù)存儲(chǔ)) metaManager (增量訂閱&消費(fèi)信息管理器) server代表一個(gè)canal運(yùn)行實(shí)例，對(duì)應(yīng)于一個(gè)jvm instance對(duì)應(yīng)于一個(gè)數(shù)據(jù)隊(duì)列 （1個(gè)server對(duì)應(yīng)1..n個(gè)instance) instance模塊：
大致的解析過程如下： parse解析MySQL的Bin log，然后將數(shù)據(jù)放入到sink中 sink對(duì)數(shù)據(jù)進(jìn)行過濾，加工，分發(fā) store從sink中讀取解析好的數(shù)據(jù)存儲(chǔ)起來 然后自己用設(shè)計(jì)代碼將store中的數(shù)據(jù)同步寫入Redis中就可以了 其中parse/sink是框架封裝好的，我們做的是store的數(shù)據(jù)讀取那一步
更多關(guān)于Cancl可以百度搜索 下面是運(yùn)行拓?fù)鋱D
MySQL表的同步，采用責(zé)任鏈模式，每張表對(duì)應(yīng)一個(gè)Filter。 例如zvsync中要用到的類設(shè)計(jì)如下：
下面是具體化的zvsync中要用到的類， 每當(dāng)新增或者刪除表時(shí)，直接進(jìn)行增刪就可以了
三、附加
本文上面所介紹的都是從MySQL中同步到緩存中。但是在實(shí)際開發(fā)中可能有人會(huì)用下面的方案：客戶端有數(shù)據(jù)來了之后，先將其保存到Redis中，然后再同步到MySQL中 這種方案本身也是不安全/不可靠的，因此如果Redis存在短暫的宕機(jī)或失效，那么會(huì)丟失數(shù)據(jù)
作者 | 江南、董少
覺得本文對(duì)你有幫助？請(qǐng)分享給更多人
關(guān)注「全棧開發(fā)者社區(qū)」加星標(biāo)，提升全棧技能
本公眾號(hào)會(huì)不定期給大家發(fā)福利，包括送書、學(xué)習(xí)資源等，敬請(qǐng)期待吧！
如果感覺推送內(nèi)容不錯(cuò)，不妨右下角點(diǎn)個(gè)在看轉(zhuǎn)發(fā)朋友圈或收藏，感謝支持。
好文章，留言、點(diǎn)贊、在看和分享一條龍吧??