互聯(lián)網(wǎng)/程序員/技術(shù)/資料共享?
作者:小怪聊職場(chǎng)
來源:www.jianshu.com/p/1582b37291f9
在之前的業(yè)務(wù)中,使用了Kafka和RabbitMQ兩種消息隊(duì)列,這篇文章來做一個(gè)總結(jié)。
消息隊(duì)列中間件是分布式系統(tǒng)中重要的組件,主要實(shí)現(xiàn)異步消息,應(yīng)用解耦,流量削峰及消息通訊等功能。
下面舉例說明在實(shí)際應(yīng)用中消息隊(duì)列是如何使用的。
消息隊(duì)列應(yīng)用場(chǎng)景
1、異步處理
以用戶注冊(cè),并且需要注冊(cè)郵件和短信為例。用戶注冊(cè)后,需要發(fā)送注冊(cè)郵件和注冊(cè)短信。傳統(tǒng)的做法有兩種:串行和并行方式。如下圖所示:1)串行方式:將注冊(cè)信息寫入數(shù)據(jù)庫成功后,發(fā)送注冊(cè)郵件,再發(fā)送注冊(cè)短信。以上三個(gè)任務(wù)全部完成后,返回給客戶端。2)并行方式:將注冊(cè)信息寫入數(shù)據(jù)庫成功后,發(fā)送注冊(cè)郵件的同時(shí),發(fā)送注冊(cè)短信。以上三個(gè)任務(wù)完成后,返回給客戶端。與串行的差別是,并行的方式可以提高處理的時(shí)間。假設(shè)三個(gè)業(yè)務(wù)節(jié)點(diǎn)每個(gè)使用50毫秒鐘,不考慮網(wǎng)絡(luò)等其他開銷,則串行方式的時(shí)間是150毫秒,并行的時(shí)間可能是100毫秒。因?yàn)镃PU在單位時(shí)間內(nèi)處理的請(qǐng)求數(shù)是一定的,假設(shè)CPU1秒內(nèi)吞吐量是100次。則串行方式1秒內(nèi)CPU可處理的請(qǐng)求量是7次(1000ms/150ms),并行方式處理的請(qǐng)求量是10次(1000ms/100ms)小結(jié):如以上案例描述,傳統(tǒng)的方式系統(tǒng)的性能(并發(fā)量,吞吐量,響應(yīng)時(shí)間)會(huì)有瓶頸。如何解決這個(gè)問題呢?
引入消息隊(duì)列,將不是必須的業(yè)務(wù)邏輯,異步處理。改造后的架構(gòu)如下:
按照以上約定,用戶的響應(yīng)時(shí)間相當(dāng)于是注冊(cè)信息寫入數(shù)據(jù)庫的時(shí)間,也就是50毫秒。注冊(cè)郵件,發(fā)送短信寫入消息隊(duì)列后,直接返回,因此寫入消息隊(duì)列的速度很快,基本可以忽略,因此用戶的響應(yīng)時(shí)間可能是50毫秒。因此架構(gòu)改變后,系統(tǒng)的吞吐量提高到每秒20 QPS。比串行提高了3倍,比并行提高了兩倍。2、應(yīng)用解耦
用戶下單后,訂單系統(tǒng)需要通知庫存系統(tǒng)。傳統(tǒng)的做法是,訂單系統(tǒng)調(diào)用庫存系統(tǒng)的接口。如下圖1)假如庫存系統(tǒng)無法訪問,則訂單減庫存將失敗,從而導(dǎo)致訂單失敗。2)訂單系統(tǒng)與庫存系統(tǒng)耦合。如何解決以上問題呢?引入應(yīng)用消息隊(duì)列后的方案,如下圖:
1)訂單系統(tǒng):用戶下單后,訂單系統(tǒng)完成持久化處理,將消息寫入消息隊(duì)列,返回用戶訂單下單成功。2)庫存系統(tǒng):訂閱下單的消息,采用拉/推的方式,獲取下單信息,庫存系統(tǒng)根據(jù)下單信息,進(jìn)行庫存操作。假如:在下單時(shí)庫存系統(tǒng)不能正常使用。也不影響正常下單,因?yàn)橄聠魏螅唵蜗到y(tǒng)寫入消息隊(duì)列就不再關(guān)心其他的后續(xù)操作了。實(shí)現(xiàn)訂單系統(tǒng)與庫存系統(tǒng)的應(yīng)用解耦。3、流量削峰
流量削峰也是消息隊(duì)列中的常用場(chǎng)景,一般在秒殺或團(tuán)搶活動(dòng)中使用廣泛。秒殺活動(dòng),一般會(huì)因?yàn)榱髁窟^大,導(dǎo)致流量暴增,應(yīng)用掛掉。為解決這個(gè)問題,需要在應(yīng)用前端加入消息隊(duì)列。2)可以緩解短時(shí)間內(nèi)高流量壓垮應(yīng)用。1)用戶的請(qǐng)求,服務(wù)器接收后,首先寫入消息隊(duì)列。假如消息隊(duì)列長度超過最大數(shù)量,則直接拋棄用戶請(qǐng)求或跳轉(zhuǎn)到錯(cuò)誤頁面。2)秒殺業(yè)務(wù)根據(jù)消息隊(duì)列中的請(qǐng)求信息,再做后續(xù)處理。4、消息通訊
消息通訊是指,消息隊(duì)列一般都內(nèi)置了高效的通信機(jī)制,因此也可以用作消息通訊。比如實(shí)現(xiàn)點(diǎn)對(duì)點(diǎn)消息隊(duì)列,或者聊天室等。以上實(shí)際是消息隊(duì)列的兩種消息模式,點(diǎn)對(duì)點(diǎn)或發(fā)布訂閱模式。常用消息隊(duì)列
ActiveMQ、RabbitMQ、RocketMQ、Kafka比較
生產(chǎn)者消費(fèi)者模式(Producer-Consumer)
ActiveMQ-支持,RabbitMQ-支持,RocketMQ-支持,Kafka-支持。
發(fā)布訂閱模式(Publish-Subscribe)
ActiveMQ-支持,RabbitMQ-支持,RocketMQ-支持,Kafka-支持。
請(qǐng)求回應(yīng)模型(Request-Reply)
ActiveMQ-支持,RabbitMQ-支持,RocketMQ-不支持,Kafka-不支持。
ActiveMQ-高,RabbitMQ-高,RocketMQ-高,Kafka-高。ActiveMQ-支持,RabbitMQ-支持,RocketMQ-只支持JAVA,Kafka-支持。ActiveMQ-萬級(jí),RabbitMQ-萬級(jí),RocketMQ-萬級(jí),Kafka-十萬級(jí)。ActiveMQ-無,RabbitMQ-微秒級(jí),RocketMQ-毫秒級(jí),Kafka-毫秒級(jí)。ActiveMQ-高(主從),RabbitMQ-高(主從),RocketMQ-非常高(分布式),Kafka-非常高(分布式)。ActiveMQ-低,RabbitMQ-低,RocketMQ-理論上不會(huì)丟失,Kafka-理論上不會(huì)丟失。ActiveMQ-高,RabbitMQ-高,RocketMQ-高,Kafka-高。ActiveMQ-有,RabbitMQ-有,RocketMQ-有,Kafka-有。ActiveMQ-高,RabbitMQ-高,RocketMQ-中,Kafka-高。ActiveMQ-無,RabbitMQ-無,RocketMQ-阿里云,Kafka-阿里云。ActiveMQ、RabbitMQ、RocketMQ、Kafka總體來說
歷史悠久的開源項(xiàng)目,已經(jīng)在很多產(chǎn)品中得到應(yīng)用,實(shí)現(xiàn)了JMS1.1規(guī)范,可以和spring-jms輕松融合,實(shí)現(xiàn)了多種協(xié)議,不夠輕巧(源代碼比RocketMQ多),支持持久化到數(shù)據(jù)庫,對(duì)隊(duì)列數(shù)較多的情況支持不好。它比Kafka成熟,支持AMQP事務(wù)處理,在可靠性上,RabbitMQ超過Kafka,在性能方面超過ActiveMQ。RocketMQ是阿里開源的消息中間件,目前在Apache孵化,使用純Java開發(fā),具有高吞吐量、高可用性、適合大規(guī)模分布式系統(tǒng)應(yīng)用的特點(diǎn)。RocketMQ思路起源于Kafka,但并不是簡(jiǎn)單的復(fù)制,它對(duì)消息的可靠傳輸及事務(wù)性做了優(yōu)化,目前在阿里集團(tuán)被廣泛應(yīng)用于交易、充值、流計(jì)算、消息推送、日志流式處理、binglog分發(fā)等場(chǎng)景,支撐了阿里多次雙十一活動(dòng)。因?yàn)槭前⒗飪?nèi)部從實(shí)踐到產(chǎn)品的產(chǎn)物,因此里面很多接口、API并不是很普遍適用。其可靠性毋庸置疑,而且與Kafka一脈相承(甚至更優(yōu)),性能強(qiáng)勁,支持海量堆積。Kafka設(shè)計(jì)的初衷就是處理日志的,不支持AMQP事務(wù)處理,可以看做是一個(gè)日志系統(tǒng),針對(duì)性很強(qiáng),所以它并沒有具備一個(gè)成熟MQ應(yīng)該具備的特性。Kafka的性能(吞吐量、tps)比RabbitMQ要強(qiáng),如果用來做大數(shù)據(jù)量的快速處理是比RabbitMQ有優(yōu)勢(shì)的。推薦閱讀:
【124期】面試官:談?wù)勎⒎?wù)的數(shù)據(jù)庫設(shè)計(jì)思路吧
【123期】一文搞定那些難纏的并發(fā)面試題
【122期】談?wù)剮讉€(gè)SpringCloud常見面試題及答案
5T技術(shù)資源大放送!包括但不限于:C/C++,Linux,Python,Java,PHP,人工智能,單片機(jī),樹莓派,等等。在公眾號(hào)內(nèi)回復(fù)「2048」,即可免費(fèi)獲取!!微信掃描二維碼,關(guān)注我的公眾號(hào)
朕已閱?