Kafka可视化管理工具-CMAK(kafka-manager)
一、簡(jiǎn)介
為了簡(jiǎn)化開發(fā)者和服務(wù)工程師維護(hù)Kafka集群的工作,yahoo構(gòu)建了一個(gè)叫做Kafka管理器的基于Web工具,叫做 Kafka Manager(已改名為 cmak)。
這個(gè)管理工具可以很容易地發(fā)現(xiàn)分布在集群中的哪些topic分布不均勻,或者是分區(qū)在整個(gè)集群分布不均勻的的情況。
它支持管理多個(gè)集群、選擇副本、副本重新分配以及創(chuàng)建Topic。同時(shí),這個(gè)管理工具也是一個(gè)非常好的可以快速瀏覽這個(gè)集群的工具,有如下功能:
1.管理多個(gè)kafka集群
2.便捷的檢查kafka集群狀態(tài)(topics,brokers,備份分布情況,分區(qū)分布情況)
3.選擇你要運(yùn)行的副本
4.基于當(dāng)前分區(qū)狀況進(jìn)行
5.可以選擇topic配置并創(chuàng)建topic(0.8.1.1和0.8.2的配置不同)
6.刪除topic(只支持0.8.2以上的版本并且要在broker配置中設(shè)置delete.topic.enable=true)
7.Topic list會(huì)指明哪些topic被刪除(在0.8.2以上版本適用)
8.為已存在的topic增加分區(qū)
9.為已存在的topic更新配置
10.在多個(gè)topic上批量重分區(qū)
11.在多個(gè)topic上批量重分區(qū)(可選partition broker位置)
kafka-manager 項(xiàng)目地址:https://github.com/yahoo/kafka-manager
?二、環(huán)境
? ? ? ? 注意:cmak環(huán)境要求JDK版本為11
1、jdk java version "11.0.15.1"2、kafka集群信息 服務(wù)器: 192.168.10.6:9092 192.168.10.7:9093 192.168.10.8:9094 軟件: kafka_2.11-2.1.1 zookeeper-3.4.14三、下載安裝
1. 項(xiàng)目下載地址:https://github.com/yahoo/CMAK/releases
2. 下載zip,并上傳至linux,解壓
3. 進(jìn)入目錄,3.0.0.5已無(wú)需編譯
?4. 配置文件(conf/application.conf)
?修改 application.conf
將?kafka-manager.zkhosts="kafka-manager-zookeeper:2181"?中的?zookeeper?地址換成自己安裝的,原配置的?kafka-manager.zkhosts ,cmak.zkhosts注釋,參考下面:
5. 開通端口
(1)各個(gè)宿主機(jī)(zookeeper 開通端口/或防火墻,保證cmak 服務(wù)器可訪問(wèn)對(duì)應(yīng)端口)
(2)cmak 服務(wù)器開通頁(yè)面訪問(wèn)端口(默認(rèn)9000,若有使用沖突,可啟動(dòng)配置其他端口)
6. 啟動(dòng)
確保自己本地的ZK已經(jīng)啟動(dòng)了之后,我們來(lái)啟動(dòng)Kafka-manager。
kafka-manager 默認(rèn)的端口是9000。
可通過(guò) -Dhttp.port,指定端口; -Dconfig.file=conf/application.conf指定配置文件:
臨時(shí)啟動(dòng):
bin/kafka-manager -Dhttp.port=10001
后臺(tái)啟動(dòng)(最好使用腳本,存儲(chǔ)pid):
nohup bin/kafka-manager -Dhttp.port=10001 &
使用ip地址:端口訪問(wèn)測(cè)試
?啟動(dòng)成功!
四、測(cè)試CMAK
點(diǎn)擊【Cluster】>【Add Cluster】打開如下添加集群的配置界面:
輸入集群的名字(如Kafka-Cluster-1)和 Zookeeper 服務(wù)器地址(如localhost:2181),選擇最接近的Kafka版本(如2.2.0)
注意:如果沒(méi)有在 Kafka 中配置過(guò) JMX_PORT,千萬(wàn)不要選擇第一個(gè)復(fù)選框。
Enable JMX Polling
如果選擇了該復(fù)選框,Kafka-manager 可能會(huì)無(wú)法啟動(dòng)。
?基本寫這幾個(gè)就行了
其他broker的配置可以根據(jù)自己需要進(jìn)行配置,默認(rèn)情況下,點(diǎn)擊【保存】時(shí),會(huì)提示幾個(gè)默認(rèn)值為1的配置錯(cuò)誤,需要配置為>=2的值。默認(rèn)配置如下
?新建完成后,運(yùn)行界面如下
?主題列表
?
?broker
?
問(wèn)題
配置保存失敗:kafka manager添加集群出現(xiàn)錯(cuò)誤KeeperErrorCode
Yikes! KeeperErrorCode = Unimplemented for /kafka-manager/mutex Try again.
解決辦法
登錄到zookeeper客戶端,手動(dòng)創(chuàng)建/ kafka-manager/ mutex / locks和/ kafka-manager / mutex / leases節(jié)點(diǎn)
//登錄到zookeeper客戶端 [root@kf-cache-61 ~]# /usr/local/kafka/zookeeper-3.4.14/bin/zkCli.sh//手動(dòng)創(chuàng)建/ kafka-manager / mutex / locks和/ kafka-manager / mutex / leases節(jié)點(diǎn) [zk: localhost:2181(CONNECTED) 0] ls /kafka-manager [configs, deleteClusters, clusters] [zk: localhost:2181(CONNECTED) 1] create /kafka-manager/mutex "" Created /kafka-manager/mutex [zk: localhost:2181(CONNECTED) 2] create /kafka-manager/mutex/locks "" Created /kafka-manager/mutex/locks [zk: localhost:2181(CONNECTED) 3] create /kafka-manager/mutex/leases "" Created /kafka-manager/mutex/leases [zk: localhost:2181(CONNECTED) 4]參考文檔:Kafka可視化管理工具kafka-manager部署安裝和使用-已更名為CMAK_沮喪的南瓜的博客-CSDN博客_kafka manager
kafka manager添加集群出現(xiàn)錯(cuò)誤KeeperErrorCode_胖琦的博客-CSDN博客
五、使用
1、新建主題
其他參數(shù)配置,不再講解
主題列表
?點(diǎn)擊【topic】下面的主題名稱,即可查看主題
?
總結(jié)
以上是生活随笔為你收集整理的Kafka可视化管理工具-CMAK(kafka-manager)的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 深圳实验室设计合理化事项
- 下一篇: 配置ssh互信