删除kafka topic
1、因為項目原因,kakfa通道中經(jīng)常造成數(shù)據(jù)阻塞,導(dǎo)致kafka通道中數(shù)據(jù)量過大,因此我需要將kakfa通道中數(shù)據(jù)清除(個人項目原因,一直使用一個消費者,只要保證當前消費者不在消費之前很久的數(shù)據(jù)就可以。因數(shù)量過大,造成topic阻塞,消費者消費太慢,還有可能造成重復(fù)消費問題)。下面將介紹刪除topic中數(shù)據(jù)或者日志數(shù)據(jù)的方法。
A: 第一種方法就是
1):停掉kafka進程
2):刪除kafka的日志數(shù)據(jù),刪除topic
3);將zookeeper中的offset偏移量修改
? ? ? 或者直接將topic刪除掉
4);重啟kafka進程或者重建kafka通道
這是比較保險也適用于大多數(shù)的情況
B: 如果我的需求只是讓當前消費者不在消費之前的阻塞數(shù)據(jù),那么可以用下面的方法來實現(xiàn)
1): 停掉kafka進程,將kafka的server.properties中的log.retention.hours=1/60;? 將日志數(shù)據(jù)保留1分鐘
或者
在不用停掉kafka進程的情況下執(zhí)行:
kafka-configs.sh –zookeeper localhost:2181 –entity-type topics –entity-name test –alter –add-config retention.ms=10000
直接執(zhí)行當前命令,可以在不停掉kafka進程的情況下,將日志數(shù)據(jù)保留時間修改成1000毫秒(注意:這里的設(shè)置的是毫秒)
這樣就可以保證當前消費者不會再消費阻塞的數(shù)據(jù)了。
?
以上兩種方式,都要保證沒有向通道中進行生產(chǎn)的數(shù)據(jù)的生產(chǎn)者
---------------------
作者:nicodeme
來源:CSDN
原文:https://blog.csdn.net/nicodeme/article/details/81950455
版權(quán)聲明:本文為博主原創(chuàng)文章,轉(zhuǎn)載請附上博文鏈接!
轉(zhuǎn)載于:https://www.cnblogs.com/vana/p/10201298.html
總結(jié)
以上是生活随笔為你收集整理的删除kafka topic的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: FFT实现高精度乘法
- 下一篇: 洛谷2619/bzoj2654 Tree