Kafka 优化参数 unclean.leader.election.enable
Kafka 某個(gè)節(jié)點(diǎn)掛掉,導(dǎo)致整個(gè)服務(wù)異常,為了保證服務(wù)容災(zāi),可對下面幾個(gè)參數(shù)進(jìn)行調(diào)整
?
unclean.leader.election.enable=true min.insync.replicas=1 offsets.topic.replication.factor=3?
這三個(gè)配置什么意思呢? 依次來看一下:
-
unclean.leader.election.enable
?
官方描述:
Indicates whether to enable replicas not in the ISR set to be selected as leader as a last resort, even though doing so may result in data loss。
?
解釋:該字段默認(rèn)值為False。默認(rèn)情況下leader不能從非ISR的副本列表里選擇;因?yàn)樵诜荌SR副本列表里選擇leader,很有可能會導(dǎo)致部分?jǐn)?shù)據(jù)丟失。既然這樣,那為什么還要打開這個(gè)字段呢?因?yàn)樵诤墚惓G闆r下,比如ISR內(nèi)的副本都不可用了,此時(shí)如果該字段設(shè)置為False,服務(wù)會直接掛掉;如果該字段設(shè)為True,即允許從非ISR列表中選擇leader,那么服務(wù)盡管有可能丟失數(shù)據(jù),卻依然可以繼續(xù)使用。所以這個(gè)參數(shù)必須參考業(yè)務(wù)特性來決定是否打開。
?
-
min.insync.replicas
?
官方描述:
When a producer sets acks to "all" (or "-1"), min.insync.replicas specifies the minimum number of replicas that must acknowledge a write for the write to be considered successful。
?
解釋:該字段默認(rèn)值為1。上述英文翻譯為:表示當(dāng)在acks=-1時(shí),最少有一個(gè)Replica進(jìn)行確認(rèn)回執(zhí),才確認(rèn)數(shù)據(jù)寫入成功。這個(gè)參數(shù)在集群搭建時(shí),為了保證數(shù)據(jù)的完整性,經(jīng)常會被改為2。這里改為1的原因是:在只有一個(gè)副本在工作 、其他都掛掉的極端情況下,保證客戶端能夠正常提供服務(wù)。如果設(shè)置為2,當(dāng)只有一個(gè)副本在工作的時(shí)候,就會出現(xiàn)生產(chǎn)端一直生產(chǎn)失敗的情況,會影響業(yè)務(wù)。
?
-
offsets.topic.replication.factor
?
官網(wǎng)描述:
The replication factor for the offsets topic (set higher to ensure availability). Internal topic creation will fail until the cluster size meets this replication factor requirement.
?
解釋:該值默認(rèn)為1。表示kafka的內(nèi)部topic consumer_offsets副本數(shù)。當(dāng)該副本所在的broker宕機(jī),consumer_offsets只有一份副本,該分區(qū)宕機(jī)。使用該分區(qū)存儲消費(fèi)分組offset位置的消費(fèi)者均會收到影響,offset無法提交,從而導(dǎo)致生產(chǎn)者可以發(fā)送消息但消費(fèi)者不可用。所以需要設(shè)置該字段的值大于1。
?
查閱相關(guān)資料:
https://blog.csdn.net/u013256816/article/details/80790185
騰訊云中間件 公眾號
?
創(chuàng)作挑戰(zhàn)賽新人創(chuàng)作獎(jiǎng)勵(lì)來咯,堅(jiān)持創(chuàng)作打卡瓜分現(xiàn)金大獎(jiǎng)總結(jié)
以上是生活随笔為你收集整理的Kafka 优化参数 unclean.leader.election.enable的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: APC异步过程调用
- 下一篇: CDH 5.13.0 集成 Phoeni