一、消息隊(duì)列概述

消息隊(duì)列中間件是分布式系統(tǒng)中重要的組件，主要解決應(yīng)用解耦，異步消息，流量削鋒等問題，實(shí)現(xiàn)高性能，高可用，可伸縮和最終一致性架構(gòu)。目前使用較多的消息隊(duì)列有ActiveMQ，RabbitMQ，ZeroMQ，Kafka，MetaMQ，RocketMQ

二、消息隊(duì)列應(yīng)用場(chǎng)景

以下介紹消息隊(duì)列在實(shí)際應(yīng)用中常用的使用場(chǎng)景。異步處理，應(yīng)用解耦，流量削鋒和消息通訊四個(gè)場(chǎng)景。

2.1異步處理

場(chǎng)景說明：用戶注冊(cè)后，需要發(fā)注冊(cè)郵件和注冊(cè)短信。傳統(tǒng)的做法有兩種 1.串行的方式；2.并行方式
a、串行方式：將注冊(cè)信息寫入數(shù)據(jù)庫(kù)成功后，發(fā)送注冊(cè)郵件，再發(fā)送注冊(cè)短信。以上三個(gè)任務(wù)全部完成后，返回給客戶端。

b、并行方式：將注冊(cè)信息寫入數(shù)據(jù)庫(kù)成功后，發(fā)送注冊(cè)郵件的同時(shí)，發(fā)送注冊(cè)短信。以上三個(gè)任務(wù)完成后，返回給客戶端。與串行的差別是，并行的方式可以提高處理的時(shí)間

假設(shè)三個(gè)業(yè)務(wù)節(jié)點(diǎn)每個(gè)使用50毫秒鐘，不考慮網(wǎng)絡(luò)等其他開銷，則串行方式的時(shí)間是150毫秒，并行的時(shí)間可能是100毫秒。
因?yàn)镃PU在單位時(shí)間內(nèi)處理的請(qǐng)求數(shù)是一定的，假設(shè)CPU1秒內(nèi)吞吐量是100次。則串行方式1秒內(nèi)CPU可處理的請(qǐng)求量是7次（1000/150）。并行方式處理的請(qǐng)求量是10次（1000/100）
小結(jié)：如以上案例描述，傳統(tǒng)的方式系統(tǒng)的性能（并發(fā)量，吞吐量，響應(yīng)時(shí)間）會(huì)有瓶頸。如何解決這個(gè)問題呢？

引入消息隊(duì)列，將不是必須的業(yè)務(wù)邏輯，異步處理。改造后的架構(gòu)如下：

按照以上約定，用戶的響應(yīng)時(shí)間相當(dāng)于是注冊(cè)信息寫入數(shù)據(jù)庫(kù)的時(shí)間，也就是50毫秒。注冊(cè)郵件，發(fā)送短信寫入消息隊(duì)列后，直接返回，因此寫入消息隊(duì)列的速度很快，基本可以忽略，因此用戶的響應(yīng)時(shí)間可能是50毫秒。因此架構(gòu)改變后，系統(tǒng)的吞吐量提高到每秒20 QPS。比串行提高了3倍，比并行提高了兩倍。

2.2 應(yīng)用解耦

場(chǎng)景說明：用戶下單后，訂單系統(tǒng)需要通知庫(kù)存系統(tǒng)。傳統(tǒng)的做法是，訂單系統(tǒng)調(diào)用庫(kù)存系統(tǒng)的接口。如下圖：

傳統(tǒng)模式的缺點(diǎn)：假如庫(kù)存系統(tǒng)無法訪問，則訂單減庫(kù)存將失敗，從而導(dǎo)致訂單失敗，訂單系統(tǒng)與庫(kù)存系統(tǒng)耦合

如何解決以上問題呢？引入應(yīng)用消息隊(duì)列后的方案，如下圖：

訂單系統(tǒng)：用戶下單后，訂單系統(tǒng)完成持久化處理，將消息寫入消息隊(duì)列，返回用戶訂單下單成功
庫(kù)存系統(tǒng)：訂閱下單的消息，采用拉/推的方式，獲取下單信息，庫(kù)存系統(tǒng)根據(jù)下單信息，進(jìn)行庫(kù)存操作
假如：在下單時(shí)庫(kù)存系統(tǒng)不能正常使用。也不影響正常下單，因?yàn)橄聠魏?#xff0c;訂單系統(tǒng)寫入消息隊(duì)列就不再關(guān)心其他的后續(xù)操作了。實(shí)現(xiàn)訂單系統(tǒng)與庫(kù)存系統(tǒng)的應(yīng)用解耦

2.3 流量削鋒

流量削鋒也是消息隊(duì)列中的常用場(chǎng)景，一般在秒殺或團(tuán)搶活動(dòng)中使用廣泛。
應(yīng)用場(chǎng)景：秒殺活動(dòng)，一般會(huì)因?yàn)榱髁窟^大，導(dǎo)致流量暴增，應(yīng)用掛掉。為解決這個(gè)問題，一般需要在應(yīng)用前端加入消息隊(duì)列。
a、可以控制活動(dòng)的人數(shù)
b、可以緩解短時(shí)間內(nèi)高流量壓垮應(yīng)用

2.4 日志處理

日志處理是指將消息隊(duì)列用在日志處理中，比如Kafka的應(yīng)用，解決大量日志傳輸?shù)膯栴}。架構(gòu)簡(jiǎn)化如下

日志采集客戶端，負(fù)責(zé)日志數(shù)據(jù)采集，定時(shí)寫受寫入Kafka隊(duì)列
Kafka消息隊(duì)列，負(fù)責(zé)日志數(shù)據(jù)的接收，存儲(chǔ)和轉(zhuǎn)發(fā)
日志處理應(yīng)用：訂閱并消費(fèi)kafka隊(duì)列中的日志數(shù)據(jù)

2.5 消息通訊

消息通訊是指，消息隊(duì)列一般都內(nèi)置了高效的通信機(jī)制，因此也可以用在純的消息通訊。比如實(shí)現(xiàn)點(diǎn)對(duì)點(diǎn)消息隊(duì)列，或者聊天室等
點(diǎn)對(duì)點(diǎn)通訊：

客戶端A和客戶端B使用同一隊(duì)列，進(jìn)行消息通訊。

聊天室通訊：

客戶端A，客戶端B，客戶端N訂閱同一主題，進(jìn)行消息發(fā)布和接收。實(shí)現(xiàn)類似聊天室效果。

以上實(shí)際是消息隊(duì)列的兩種消息模式，點(diǎn)對(duì)點(diǎn)或發(fā)布訂閱模式。模型為示意圖，供參考。

三、消息中間件示例

3.1 電商系統(tǒng)

消息隊(duì)列采用高可用，可持久化的消息中間件。比如Active MQ，Rabbit MQ，Rocket Mq。
（1）應(yīng)用將主干邏輯處理完成后，寫入消息隊(duì)列。消息發(fā)送是否成功可以開啟消息的確認(rèn)模式。（消息隊(duì)列返回消息接收成功狀態(tài)后，應(yīng)用再返回，這樣保障消息的完整性）
（2）擴(kuò)展流程（發(fā)短信，配送處理）訂閱隊(duì)列消息。采用推或拉的方式獲取消息并處理。
（3）消息將應(yīng)用解耦的同時(shí)，帶來了數(shù)據(jù)一致性問題，可以采用最終一致性方式解決。比如主數(shù)據(jù)寫入數(shù)據(jù)庫(kù)，擴(kuò)展應(yīng)用根據(jù)消息隊(duì)列，并結(jié)合數(shù)據(jù)庫(kù)方式實(shí)現(xiàn)基于消息隊(duì)列的后續(xù)處理。

3.2 日志收集系統(tǒng)

分為Zookeeper注冊(cè)中心，日志收集客戶端，Kafka集群和Storm集群（OtherApp）四部分組成。
Zookeeper注冊(cè)中心，提出負(fù)載均衡和地址查找服務(wù)
日志收集客戶端，用于采集應(yīng)用系統(tǒng)的日志，并將數(shù)據(jù)推送到kafka隊(duì)列
Kafka集群：接收，路由，存儲(chǔ)，轉(zhuǎn)發(fā)等消息處理
Storm集群：與OtherApp處于同一級(jí)別，采用拉的方式消費(fèi)隊(duì)列中的數(shù)據(jù)

4、常見MQ對(duì)比

Kafka是linkedin開源的MQ系統(tǒng)，主要特點(diǎn)是基于Pull的模式來處理消息消費(fèi)，追求高吞吐量，一開始的目的就是用于日志收集和傳輸，0.8開始支持復(fù)制，不支持事務(wù)，適合產(chǎn)生大量數(shù)據(jù)的互聯(lián)網(wǎng)服務(wù)的數(shù)據(jù)收集業(yè)務(wù)。

RabbitMQ是使用Erlang語言開發(fā)的開源消息隊(duì)列系統(tǒng)，基于AMQP協(xié)議來實(shí)現(xiàn)。AMQP的主要特征是面向消息、隊(duì)列、路由（包括點(diǎn)對(duì)點(diǎn)和發(fā)布/訂閱）、可靠性、安全。AMQP協(xié)議更多用在企業(yè)系統(tǒng)內(nèi)，對(duì)數(shù)據(jù)一致性、穩(wěn)定性和可靠性要求很高的場(chǎng)景，對(duì)性能和吞吐量的要求還在其次。

RocketMQ是阿里開源的消息中間件，它是純Java開發(fā)，具有高吞吐量、高可用性、適合大規(guī)模分布式系統(tǒng)應(yīng)用的特點(diǎn)。RocketMQ思路起源于Kafka，但并不是Kafka的一個(gè)Copy，它對(duì)消息的可靠傳輸及事務(wù)性做了優(yōu)化，目前在阿里集團(tuán)被廣泛應(yīng)用于交易、充值、流計(jì)算、消息推送、日志流式處理、binglog分發(fā)等場(chǎng)景。

ZeroMQ只是一個(gè)網(wǎng)絡(luò)編程的Pattern庫(kù)，將常見的網(wǎng)絡(luò)請(qǐng)求形式（分組管理，鏈接管理，發(fā)布訂閱等）模式化、組件化，簡(jiǎn)而言之socket之上、MQ之下。對(duì)于MQ來說，網(wǎng)絡(luò)傳輸只是它的一部分，更多需要處理的是消息存儲(chǔ)、路由、Broker服務(wù)發(fā)現(xiàn)和查找、事務(wù)、消費(fèi)模式（ack、重投等）、集群服務(wù)等。

RabbitMQ/Kafka/ZeroMQ 都能提供消息隊(duì)列服務(wù)，但有很大的區(qū)別。
在面向服務(wù)架構(gòu)中通過消息代理（比如 RabbitMQ / Kafka等），使用生產(chǎn)者-消費(fèi)者模式在服務(wù)間進(jìn)行異步通信是一種比較好的思想。
因?yàn)榉?wù)間依賴由強(qiáng)耦合變成了松耦合。消息代理都會(huì)提供持久化機(jī)制，在消費(fèi)者負(fù)載高或者掉線的情況下會(huì)把消息保存起來，不會(huì)丟失。就是說生產(chǎn)者和消費(fèi)者不需要同時(shí)在線，這是傳統(tǒng)的請(qǐng)求-應(yīng)答模式比較難做到的，需要一個(gè)中間件來專門做這件事。其次消息代理可以根據(jù)消息本身做簡(jiǎn)單的路由策略，消費(fèi)者可以根據(jù)這個(gè)來做負(fù)載均衡，業(yè)務(wù)分離等。
缺點(diǎn)也有，就是需要額外搭建消息代理集群（但優(yōu)點(diǎn)是大于缺點(diǎn)的 ） 。
ZeroMQ 和 RabbitMQ/Kafka 不同，它只是一個(gè)異步消息庫(kù)，在套接字的基礎(chǔ)上提供了類似于消息代理的機(jī)制。使用 ZeroMQ 的話，需要對(duì)自己的業(yè)務(wù)代碼進(jìn)行改造，不利于服務(wù)解耦。
RabbitMQ 支持 AMQP（二進(jìn)制），STOMP（文本），MQTT（二進(jìn)制），HTTP（里面包裝其他協(xié)議）等協(xié)議。Kafka 使用自己的協(xié)議。
Kafka 自身服務(wù)和消費(fèi)者都需要依賴 Zookeeper。
RabbitMQ 在有大量消息堆積的情況下性能會(huì)下降，Kafka不會(huì)。畢竟AMQP設(shè)計(jì)的初衷不是用來持久化海量消息的，而Kafka一開始是用來處理海量日志的。
總的來說，RabbitMQ 和 Kafka 都是十分優(yōu)秀的分布式的消息代理服務(wù)，只要合理部署，不作，基本上可以滿足生產(chǎn)條件下的任何需求。

關(guān)于這兩種MQ的比較，網(wǎng)上的資料并不多，最權(quán)威的的是kafka的提交者寫一篇文章。http://www.quora.com/What-are-the-differences-between-Apache-Kafka-and-RabbitMQ

里面提到的要點(diǎn)：

1、 RabbitMq比kafka成熟，在可用性上，穩(wěn)定性上，可靠性上，RabbitMq超過kafka

2、 Kafka設(shè)計(jì)的初衷就是處理日志的，可以看做是一個(gè)日志系統(tǒng)，針對(duì)性很強(qiáng)，所以它并沒有具備一個(gè)成熟MQ應(yīng)該具備的特性

3、 Kafka的性能（吞吐量、tps）比RabbitMq要強(qiáng)，這篇文章的作者認(rèn)為，兩者在這方面沒有可比性。

總結(jié)

以上是生活随笔為你收集整理的常见消息队列对比的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。