日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

Kafka 不停机修改某一个topic数据保存时间

發布時間:2024/8/23 编程问答 34 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Kafka 不停机修改某一个topic数据保存时间 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
  • 查看topic信息
./kafka-topics.sh --describe --zookeeper zk:2181 --topic topicName25/03/08 16:05:29 INFO zkclient.ZkClient: zookeeper state changed (SyncConnected) Topic:topicName PartitionCount:3 ReplicationFactor:3 Configs:Topic: topicName Partition: 0 Leader: 52 Replicas: 52,54,53 Isr: 52,54,53Topic: topicName Partition: 1 Leader: 53 Replicas: 53,52,54 Isr: 53,52,54Topic: topicName Partition: 2 Leader: 54 Replicas: 54,53,52 Isr: 54,53,52

此時topic數據為kafka默認的配置

  • 修改已有的topic數據保存時間(某一個)
./kafka-topics.sh --zookeeper zk:2181 -topic topicName --alter --config retention.ms=267840000019/04/09 16:07:29 INFO zkclient.ZkClient: zookeeper state changed (SyncConnected) Topic:topicName PartitionCount:3 ReplicationFactor:3 Configs:retention.ms=2678400000Topic: topicName Partition: 0 Leader: 52 Replicas: 52,54,53 Isr: 52,54,53Topic: topicName Partition: 1 Leader: 53 Replicas: 53,52,54 Isr: 53,52,54Topic: topicName Partition: 2 Leader: 54 Replicas: 54,53,52 Isr: 54,53,52

可以看到Configs后面有個retention.ms=2678400000參數,改參數是我們修改的參數

注:kafka-topics.sh修改配置已被棄用,后續版本會刪除,建議需要統一使用kafka-configs.sh來修改參數。

kafka-configs.sh使用

  • 查看topic修改的配置信息
./kafka-configs.sh --describe --zookeeper zk:2181 --entity-type topics --entity-name topicNameConfigs for topic 'taopicName' are retention.ms=2678400000如果使用默認配置,則顯示 Configs for topic 'topicName' are
  • 修改配置
./kafka-configs.sh --zookeeper zk:2181 --alter --entity-name topicName --entity-type topics --add-config retention.ms=60000

配置完成后,所有超過時間的數據會先被標記為deleted,稍后清空全部標記為deleted的文件?

-rw-r--r-- 1 kafka kafka 1073620774 11月 16 08:53 00000000000601378207.log.deleted -rw-r--r-- 1 kafka kafka 156852 11月 16 08:53 00000000000601378207.timeindex.deleted -rw-r--r-- 1 kafka kafka 108432 11月 16 08:57 00000000000601456930.index.deleted -rw-r--r-- 1 kafka kafka 1073728104 11月 16 08:57 00000000000601456930.log.deleted -rw-r--r-- 1 kafka kafka 157356 11月 16 08:57 00000000000601456930.timeindex.deleted -rw-r--r-- 1 kafka kafka 111472 11月 16 09:00 00000000000601538370.index.deleted -rw-r--r-- 1 kafka kafka 1073383897 11月 16 09:00 00000000000601538370.log.deleted -rw-r--r-- 1 kafka kafka 161004 11月 16 09:00 00000000000601538370.timeindex.deleted -rw-r--r-- 1 kafka kafka 111544 11月 16 09:04 00000000000601614505.index.deleted -rw-r--r-- 1 kafka kafka 1073645607 11月 16 09:04 00000000000601614505.log.deleted -rw-r--r-- 1 kafka kafka 161304 11月 16 09:04 00000000000601614505.timeindex.deleted -rw-r--r-- 1 kafka kafka 113240 11月 16 09:08 00000000000601697084.index.deleted -rw-r--r-- 1 kafka kafka 1073650121 11月 16 09:08 00000000000601697084.log.deleted -rw-r--r-- 1 kafka kafka 164424 11月 16 09:08 00000000000601697084.timeindex.deleted -rw-r--r-- 1 kafka kafka 113816 11月 16 09:12 00000000000601786671.index -rw-r--r-- 1 kafka kafka 1073660828 11月 16 09:12 00000000000601786671.log -rw-r--r-- 1 kafka kafka 164388 11月 16 09:12 00000000000601786671.timeindex

查看Kafka日志發現日志刪除

09:11:30,784 INFO kafka.log.TimeIndex: Deleting index /kafka/data/log_lnk_data_flow-0/00000000000601378207.timeindex.deleted 09:11:30,785 INFO kafka.log.TimeIndex: Deleting index /kafka/data/log_lnk_data_flow-0/00000000000601456930.timeindex.deleted 09:11:30,786 INFO kafka.log.TimeIndex: Deleting index /kafka/data/log_lnk_data_flow-0/00000000000601301258.timeindex.deleted

?

?

更多命令可參考:https://blog.csdn.net/zhangshenghang/article/details/89158167

總結

以上是生活随笔為你收集整理的Kafka 不停机修改某一个topic数据保存时间的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。