日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

如何保存消费端的消费位置

發布時間:2024/4/13 编程问答 39 豆豆
生活随笔 收集整理的這篇文章主要介紹了 如何保存消费端的消费位置 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

什么是offset

前面在講解partition的時候,提到過offset, 每個topic可以劃分多個分區(每個Topic至少有一個分區),同一topic下的不同分區包含的消息是不同的。每個消息在被添加到分區時,都會被分配一個offset(稱之為偏移量),它是消息在此分區中的唯一編號,kafka通過offset保證消息在分區內的順序,offset的順序不跨分區,即kafka只保證在同一個分區內的消息是有序的; 對于應用層的消費來說,每次消費一個消息并且提交以后,會保存當前消費到的最近的一個offset。那么offset保存在哪里?

offset在哪里維護?

在kafka中,提供了一個consumer_offsets_* 的一個topic,把offset信息寫入到這個topic中。consumer_offsets——按保存了每個consumer group某一時刻提交的offset信息。__consumer_offsets 默認有50個分區。

根據前面我們演示的案例,我們設置了一個KafkaConsumerDemo的groupid。首先我們需要找到這個consumer_group保存在哪個分區中

properties.put(ConsumerConfig.GROUP_ID_CONFIG,"KafkaConsumerDemo");

計算公式

Math.abs(“groupid”.hashCode())%groupMetadataTopicPartitionCount ; 由于默認情況下groupMetadataTopicPartitionCount有50個分區,計算得到的結果為:35, 意味著當前的consumer_group的位移信息保存在__consumer_offsets的第35個分區

執行如下命令,可以查看當前consumer_goup中的offset位移提交的信息

kafka-console-consumer.sh --topic __consumer_offsets --partition 15 -- bootstrap-server 192.168.13.102:9092,192.168.13.103:9092,192.168.13.104:9092 --formatter 'kafka.coordinator.group.GroupMetadataManager$OffsetsMessageFormatter'

從輸出結果中,我們就可以看到test這個topic的offset的位移日志

?

?

?

?

?

?

?

?

?

?

?

總結

以上是生活随笔為你收集整理的如何保存消费端的消费位置的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。