一口气说出 6种 延时队列的实现方案,大厂offer稳稳的
下邊會介紹多種實現(xiàn)延時隊列的思路,文末提供有幾種實現(xiàn)方式的 github地址。其實哪種方式都沒有絕對的好與壞,只是看把它用在什么業(yè)務(wù)場景中,技術(shù)這東西沒有最好的只有最合適的。
一、延時隊列的應(yīng)用
什么是延時隊列?顧名思義:首先它要具有隊列的特性,再給它附加一個延遲消費隊列消息的功能,也就是說可以指定隊列中的消息在哪個時間點被消費。
延時隊列在項目中的應(yīng)用還是比較多的,尤其像電商類平臺:
1、訂單成功后,在30分鐘內(nèi)沒有支付,自動取消訂單
2、外賣平臺發(fā)送訂餐通知,下單成功后60s給用戶推送短信。
3、如果訂單一直處于某一個未完結(jié)狀態(tài)時,及時處理關(guān)單,并退還庫存
4、淘寶新建商戶一個月內(nèi)還沒上傳商品信息,將凍結(jié)商鋪等
。。。。
上邊的這些場景都可以應(yīng)用延時隊列解決。
二、延時隊列的實現(xiàn)
我個人一直秉承的觀點:工作上能用JDK自帶API實現(xiàn)的功能,就不要輕易自己重復(fù)造輪子,或者引入三方中間件。一方面自己封裝很容易出問題(大佬除外),再加上調(diào)試驗證產(chǎn)生許多不必要的工作量;另一方面一旦接入三方的中間件就會讓系統(tǒng)復(fù)雜度成倍的增加,維護成本也大大的增加。
1、DelayQueue 延時隊列
JDK 中提供了一組實現(xiàn)延遲隊列的API,位于Java.util.concurrent包下DelayQueue。
DelayQueue是一個BlockingQueue(無界阻塞)隊列,它本質(zhì)就是封裝了一個PriorityQueue(優(yōu)先隊列),PriorityQueue內(nèi)部使用完全二叉堆(不知道的自行了解哈)來實現(xiàn)隊列元素排序,我們在向DelayQueue隊列中添加元素時,會給元素一個Delay(延遲時間)作為排序條件,隊列中最小的元素會優(yōu)先放在隊首。隊列中的元素只有到了Delay時間才允許從隊列中取出。隊列中可以放基本數(shù)據(jù)類型或自定義實體類,在存放基本數(shù)據(jù)類型時,優(yōu)先隊列中元素默認升序排列,自定義實體類就需要我們根據(jù)類屬性值比較計算了。
先簡單實現(xiàn)一下看看效果,添加三個order入隊DelayQueue,分別設(shè)置訂單在當(dāng)前時間的5秒、10秒、15秒后取消。
<figcaption></figcaption>
要實現(xiàn)DelayQueue延時隊列,隊中元素要implements Delayed 接口,這哥接口里只有一個getDelay方法,用于設(shè)置延期時間。Order類中compareTo方法負責(zé)對隊列中的元素進行排序。
public class Order implements Delayed {/*** 延遲時間*/@JsonFormat(locale = "zh", timezone = "GMT+8", pattern = "yyyy-MM-dd HH:mm:ss")private long time;String name;public Order(String name, long time, TimeUnit unit) {this.name = name;this.time = System.currentTimeMillis() + (time > 0 ? unit.toMillis(time) : 0);}@Overridepublic long getDelay(TimeUnit unit) {return time - System.currentTimeMillis();}@Overridepublic int compareTo(Delayed o) {Order Order = (Order) o;long diff = this.time - Order.time;if (diff <= 0) {return -1;} else {return 1;}} }DelayQueue的put方法是線程安全的,因為put方法內(nèi)部使用了ReentrantLock鎖進行線程同步。DelayQueue還提供了兩種出隊的方法 poll() 和 take() , poll() 為非阻塞獲取,沒有到期的元素直接返回null;take() 阻塞方式獲取,沒有到期的元素線程將會等待。
public class DelayQueueDemo {public static void main(String[] args) throws InterruptedException {Order Order1 = new Order("Order1", 5, TimeUnit.SECONDS);Order Order2 = new Order("Order2", 10, TimeUnit.SECONDS);Order Order3 = new Order("Order3", 15, TimeUnit.SECONDS);DelayQueue<Order> delayQueue = new DelayQueue<>();delayQueue.put(Order1);delayQueue.put(Order2);delayQueue.put(Order3);System.out.println("訂單延遲隊列開始時間:" + LocalDateTime.now().format(DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss")));while (delayQueue.size() != 0) {/*** 取隊列頭部元素是否過期*/Order task = delayQueue.poll();if (task != null) {System.out.format("訂單:{%s}被取消, 取消時間:{%s}\n", task.name, LocalDateTime.now().format(DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss")));}Thread.sleep(1000);}} }上邊只是簡單的實現(xiàn)入隊與出隊的操作,實際開發(fā)中會有專門的線程,負責(zé)消息的入隊與消費。
執(zhí)行后看到結(jié)果如下,Order1、Order2、Order3 分別在 5秒、10秒、15秒后被執(zhí)行,至此就用DelayQueue實現(xiàn)了延時隊列。
訂單延遲隊列開始時間:2020-05-06 14:59:09 訂單:{Order1}被取消, 取消時間:{2020-05-06 14:59:14} 訂單:{Order2}被取消, 取消時間:{2020-05-06 14:59:19} 訂單:{Order3}被取消, 取消時間:{2020-05-06 14:59:24}2、Quartz 定時任務(wù)
Quartz一款非常經(jīng)典任務(wù)調(diào)度框架,在Redis、RabbitMQ還未廣泛應(yīng)用時,超時未支付取消訂單功能都是由定時任務(wù)實現(xiàn)的。定時任務(wù)它有一定的周期性,可能很多單子已經(jīng)超時,但還沒到達觸發(fā)執(zhí)行的時間點,那么就會造成訂單處理的不夠及時。
引入quartz框架依賴包
<dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-quartz</artifactId> </dependency>在啟動類中使用@EnableScheduling注解開啟定時任務(wù)功能。
@EnableScheduling @SpringBootApplication public class DelayqueueApplication {public static void main(String[] args) {SpringApplication.run(DelayqueueApplication.class, args);} }編寫一個定時任務(wù),每個5秒執(zhí)行一次。
@Component public class QuartzDemo {//每隔五秒@Scheduled(cron = "0/5 * * * * ? ")public void process(){System.out.println("我是定時任務(wù)!");} }3、Redis sorted set
Redis的數(shù)據(jù)結(jié)構(gòu)Zset,同樣可以實現(xiàn)延遲隊列的效果,主要利用它的score屬性,redis通過score來為集合中的成員進行從小到大的排序。
[圖片上傳中...(image-d9c98f-1588938283391-3)]
<figcaption></figcaption>
通過zadd命令向隊列delayqueue 中添加元素,并設(shè)置score值表示元素過期的時間;向delayqueue添加三個order1、order2、order3,分別是10秒、20秒、30秒后過期。
zadd delayqueue 3 order3消費端輪詢隊列delayqueue, 將元素排序后取最小時間與當(dāng)前時間比對,如小于當(dāng)前時間代表已經(jīng)過期移除key。
/*** 消費消息*/public void pollOrderQueue() {while (true) {Set<Tuple> set = jedis.zrangeWithScores(DELAY_QUEUE, 0, 0);String value = ((Tuple) set.toArray()[0]).getElement();int score = (int) ((Tuple) set.toArray()[0]).getScore();Calendar cal = Calendar.getInstance();int nowSecond = (int) (cal.getTimeInMillis() / 1000);if (nowSecond >= score) {jedis.zrem(DELAY_QUEUE, value);System.out.println(sdf.format(new Date()) + " removed key:" + value);}if (jedis.zcard(DELAY_QUEUE) <= 0) {System.out.println(sdf.format(new Date()) + " zset empty ");return;}Thread.sleep(1000);}}我們看到執(zhí)行結(jié)果符合預(yù)期
2020-05-07 13:24:09 add finished. 2020-05-07 13:24:19 removed key:order1 2020-05-07 13:24:29 removed key:order2 2020-05-07 13:24:39 removed key:order3 2020-05-07 13:24:39 zset empty4、Redis 過期回調(diào)
Redis 的key過期回調(diào)事件,也能達到延遲隊列的效果,簡單來說我們開啟監(jiān)聽key是否過期的事件,一旦key過期會觸發(fā)一個callback事件。
修改redis.conf文件開啟notify-keyspace-events Ex
notify-keyspace-events ExRedis監(jiān)聽配置,注入Bean RedisMessageListenerContainer
@Configuration public class RedisListenerConfig {@BeanRedisMessageListenerContainer container(RedisConnectionFactory connectionFactory) {RedisMessageListenerContainer container = new RedisMessageListenerContainer();container.setConnectionFactory(connectionFactory);return container;} }編寫Redis過期回調(diào)監(jiān)聽方法,必須繼承KeyExpirationEventMessageListener ,有點類似于MQ的消息監(jiān)聽。
@Component public class RedisKeyExpirationListener extends KeyExpirationEventMessageListener {public RedisKeyExpirationListener(RedisMessageListenerContainer listenerContainer) {super(listenerContainer);}@Overridepublic void onMessage(Message message, byte[] pattern) {String expiredKey = message.toString();System.out.println("監(jiān)聽到key:" + expiredKey + "已過期");} }到這代碼就編寫完成,非常的簡單,接下來測試一下效果,在redis-cli客戶端添加一個key 并給定3s的過期時間。
set xiaofu 123 ex 3在控制臺成功監(jiān)聽到了這個過期的key。
監(jiān)聽到過期的key為:xiaofu5、RabbitMQ 延時隊列
利用 RabbitMQ 做延時隊列是比較常見的一種方式,而實際上RabbitMQ 自身并沒有直接支持提供延遲隊列功能,而是通過 RabbitMQ 消息隊列的 TTL和 DXL這兩個屬性間接實現(xiàn)的。
先來認識一下 TTL和 DXL兩個概念:
Time To Live(TTL) :
TTL 顧名思義:指的是消息的存活時間,RabbitMQ可以通過x-message-tt參數(shù)來設(shè)置指定Queue(隊列)和 Message(消息)上消息的存活時間,它的值是一個非負整數(shù),單位為微秒。
RabbitMQ 可以從兩種維度設(shè)置消息過期時間,分別是隊列和消息本身
- 設(shè)置隊列過期時間,那么隊列中所有消息都具有相同的過期時間。
- 設(shè)置消息過期時間,對隊列中的某一條消息設(shè)置過期時間,每條消息TTL都可以不同。
如果同時設(shè)置隊列和隊列中消息的TTL,則TTL值以兩者中較小的值為準。而隊列中的消息存在隊列中的時間,一旦超過TTL過期時間則成為Dead Letter(死信)。
Dead Letter Exchanges(DLX)
DLX即死信交換機,綁定在死信交換機上的即死信隊列。RabbitMQ的 Queue(隊列)可以配置兩個參數(shù)x-dead-letter-exchange 和 x-dead-letter-routing-key(可選),一旦隊列內(nèi)出現(xiàn)了Dead Letter(死信),則按照這兩個參數(shù)可以將消息重新路由到另一個Exchange(交換機),讓消息重新被消費。
x-dead-letter-exchange:隊列中出現(xiàn)Dead Letter后將Dead Letter重新路由轉(zhuǎn)發(fā)到指定 exchange(交換機)。
x-dead-letter-routing-key:指定routing-key發(fā)送,一般為要指定轉(zhuǎn)發(fā)的隊列。
隊列出現(xiàn)Dead Letter的情況有:
- 消息或者隊列的TTL過期
- 隊列達到最大長度
- 消息被消費端拒絕(basic.reject or basic.nack)
下邊結(jié)合一張圖看看如何實現(xiàn)超30分鐘未支付關(guān)單功能,我們將訂單消息A0001發(fā)送到延遲隊列order.delay.queue,并設(shè)置x-message-tt消息存活時間為30分鐘,當(dāng)?shù)竭_30分鐘后訂單消息A0001成為了Dead Letter(死信),延遲隊列檢測到有死信,通過配置x-dead-letter-exchange,將死信重新轉(zhuǎn)發(fā)到能正常消費的關(guān)單隊列,直接監(jiān)聽關(guān)單隊列處理關(guān)單邏輯即可。
發(fā)送消息時指定消息延遲的時間
public void send(String delayTimes) {amqpTemplate.convertAndSend("order.pay.exchange", "order.pay.queue","大家好我是延遲數(shù)據(jù)", message -> {// 設(shè)置延遲毫秒值message.getMessageProperties().setExpiration(String.valueOf(delayTimes));return message;});} }設(shè)置延遲隊列出現(xiàn)死信后的轉(zhuǎn)發(fā)規(guī)則
/*** 延時隊列*/@Bean(name = "order.delay.queue")public Queue getMessageQueue() {return QueueBuilder.durable(RabbitConstant.DEAD_LETTER_QUEUE)// 配置到期后轉(zhuǎn)發(fā)的交換.withArgument("x-dead-letter-exchange", "order.close.exchange")// 配置到期后轉(zhuǎn)發(fā)的路由鍵.withArgument("x-dead-letter-routing-key", "order.close.queue").build();}6、時間輪
前邊幾種延時隊列的實現(xiàn)方法相對簡單,比較容易理解,時間輪算法就稍微有點抽象了。kafka、netty都有基于時間輪算法實現(xiàn)延時隊列,下邊主要實踐Netty的延時隊列講一下時間輪是什么原理。
先來看一張時間輪的原理圖,解讀一下時間輪的幾個基本概念
wheel :時間輪,圖中的圓盤可以看作是鐘表的刻度。比如一圈round 長度為24秒,刻度數(shù)為 8,那么每一個刻度表示 3秒。那么時間精度就是 3秒。時間長度 / 刻度數(shù)值越大,精度越大。
當(dāng)添加一個定時、延時任務(wù)A,假如會延遲25秒后才會執(zhí)行,可時間輪一圈round 的長度才24秒,那么此時會根據(jù)時間輪長度和刻度得到一個圈數(shù) round和對應(yīng)的指針位置 index,也是就任務(wù)A會繞一圈指向0格子上,此時時間輪會記錄該任務(wù)的round和 index信息。當(dāng)round=0,index=0 ,指針指向0格子 任務(wù)A并不會執(zhí)行,因為 round=0不滿足要求。
所以每一個格子代表的是一些時間,比如1秒和25秒 都會指向0格子上,而任務(wù)則放在每個格子對應(yīng)的鏈表中,這點和HashMap的數(shù)據(jù)有些類似。
Netty構(gòu)建延時隊列主要用HashedWheelTimer,HashedWheelTimer底層數(shù)據(jù)結(jié)構(gòu)依然是使用DelayedQueue,只是采用時間輪的算法來實現(xiàn)。
下面我們用Netty 簡單實現(xiàn)延時隊列,HashedWheelTimer構(gòu)造函數(shù)比較多,解釋一下各參數(shù)的含義。
- ThreadFactory :表示用于生成工作線程,一般采用線程池;
- tickDuration和unit:每格的時間間隔,默認100ms;
- ticksPerWheel:一圈下來有幾格,默認512,而如果傳入數(shù)值的不是2的N次方,則會調(diào)整為大于等于該參數(shù)的一個2的N次方數(shù)值,有利于優(yōu)化hash值的計算。
- TimerTask:一個定時任務(wù)的實現(xiàn)接口,其中run方法包裝了定時任務(wù)的邏輯。
- Timeout:一個定時任務(wù)提交到Timer之后返回的句柄,通過這個句柄外部可以取消這個定時任務(wù),并對定時任務(wù)的狀態(tài)進行一些基本的判斷。
- Timer:是HashedWheelTimer實現(xiàn)的父接口,僅定義了如何提交定時任務(wù)和如何停止整個定時機制。
從執(zhí)行的結(jié)果看,order3、order3延時任務(wù)只執(zhí)行了一次,而order2、order1為定時任務(wù),按照不同的周期重復(fù)執(zhí)行。
order1 5s 后執(zhí)行 order2 10s 后執(zhí)行 order3 15s 后執(zhí)行一次 order1 5s 后執(zhí)行 order2 10s 后執(zhí)行總結(jié)
為了讓大家更容易理解,上邊的代碼寫的都比較簡單粗糙,幾種實現(xiàn)方式的demo已經(jīng)都提交到github 地址:https://github.com/chengxy-nds/delayqueue,感興趣的小伙伴可以下載跑一跑。
可能寫的有不夠完善的地方,如哪里有錯誤或者不明了的,歡迎大家踴躍指正!!!
最后
不知不覺自己已經(jīng)做了幾年開發(fā)了,由記得剛出來工作的時候感覺自己能牛逼,現(xiàn)在回想起來感覺好無知。懂的越多的時候你才會發(fā)現(xiàn)懂的越少。
對于程序員來說,要學(xué)習(xí)的知識內(nèi)容、技術(shù)有太多太多。
很多人在剛接觸這個行業(yè)的時候或者是在遇到瓶頸期的時候,總會遇到一些問題,比如學(xué)了一段時間感覺沒有方向感,不知道該從那里入手去學(xué)習(xí),可以關(guān)注我,每天更新各種技術(shù)干貨,分享更多最熱程序員圈內(nèi)事.
總結(jié)
以上是生活随笔為你收集整理的一口气说出 6种 延时队列的实现方案,大厂offer稳稳的的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 面试官给我挖坑:rm删除文件之后,空间就
- 下一篇: 一文了解文件上传全过程(1.8w字深度解