Apache Zookeeper入门1
口水:Zookeeper是我目前接觸過Apache開源系統(tǒng)中比較復(fù)雜的一個(gè)產(chǎn)品,要搞清楚這個(gè)東東里面的運(yùn)作關(guān)系還真不是一時(shí)半會可以搞定的事,本人目前只略知皮毛之術(shù)。
ZooKeeper 是什么?
? ZooKeeper 顧名思義 動物園管理員,他是拿來管大象(Hadoop)?、?蜜蜂(Hive)?、?小豬(Pig)? 的管理員, Apache Hbase和 Apache Solr 以及LinkedIn sensei??等項(xiàng)目中都采用到了 Zookeeper。ZooKeeper是一個(gè)分布式的,開放源碼的分布式應(yīng)用程序協(xié)調(diào)服務(wù),ZooKeeper是以Fast Paxos算法為基礎(chǔ),實(shí)現(xiàn)同步服務(wù),配置維護(hù)和命名服務(wù)等分布式應(yīng)用。
?
ZooKeeper 如何工作?
? ZooKeeper是作為分布式應(yīng)用建立更高層次的同步(synchronization)、配置管理 (configuration maintenance)、群組(groups)以及名稱服務(wù)(naming)。在編程上,ZooKeeper設(shè)計(jì)很簡單,所使用的數(shù)據(jù)模型風(fēng)格很像文件系統(tǒng)的目錄樹結(jié)構(gòu),簡單來說,有點(diǎn)類似windows中注冊表的結(jié)構(gòu),有名稱,有樹節(jié)點(diǎn),有Key(鍵)/Value(值)對的關(guān)系,可以看做一個(gè)樹形結(jié)構(gòu)的數(shù)據(jù)庫,分布在不同的機(jī)器上做名稱管理。
?? Zookeeper分為2個(gè)部分:服務(wù)器端和客戶端,客戶端只連接到整個(gè)ZooKeeper服務(wù)的某個(gè)服務(wù)器上。客戶端使用并維護(hù)一個(gè)TCP連接,通過這個(gè)連接發(fā)送請求、接受響應(yīng)、獲取觀察的事件以及發(fā)送心跳。如果這個(gè)TCP連接中斷,客戶端將嘗試連接到另外的ZooKeeper服務(wù)器。客戶端第一次連接到ZooKeeper服務(wù)時(shí),接受這個(gè)連接的 ZooKeeper服務(wù)器會為這個(gè)客戶端建立一個(gè)會話。當(dāng)這個(gè)客戶端連接到另外的服務(wù)器時(shí),這個(gè)會話會被新的服務(wù)器重新建立。
?? 啟動Zookeeper服務(wù)器集群環(huán)境后,多個(gè)Zookeeper服務(wù)器在工作前會選舉出一個(gè)Leader,在接下來的工作中這個(gè)被選舉出來的Leader死了,而剩下的Zookeeper服務(wù)器會知道這個(gè)Leader死掉了,在活著的Zookeeper集群中會繼續(xù)選出一個(gè)Leader,選舉出leader的目的是為了可以在分布式的環(huán)境中保證數(shù)據(jù)的一致性。如圖所示:
? 另外,ZooKeeper 支持watch(觀察)的概念。客戶端可以在每個(gè)znode結(jié)點(diǎn)上設(shè)置一個(gè)觀察。如果被觀察服務(wù)端的znode結(jié)點(diǎn)有變更,那么watch就會被觸發(fā),這個(gè)watch所屬的客戶端將接收到一個(gè)通知包被告知結(jié)點(diǎn)已經(jīng)發(fā)生變化。若客戶端和所連接的ZooKeeper服務(wù)器斷開連接時(shí),其他客戶端也會收到一個(gè)通知,也就說一個(gè)Zookeeper服務(wù)器端可以對于多個(gè)客戶端,當(dāng)然也可以多個(gè)Zookeeper服務(wù)器端可以對于多個(gè)客戶端,如圖所示:
你還可以通過命令查看出,當(dāng)前那個(gè)Zookeeper服務(wù)端的節(jié)點(diǎn)是Leader,哪個(gè)是Follower,如圖所示:
我通過試驗(yàn)觀察到 Zookeeper的集群環(huán)境最好有3臺以上的節(jié)點(diǎn),如果只有2臺,那么2臺當(dāng)中不管那臺機(jī)器down掉,將只會剩下一個(gè)leader,那么如果有再有客戶端連接上來,將無法工作,并且剩下的leader服務(wù)器會不斷的拋出異常。內(nèi)容如下:
java.net.ConnectException: Connection refused
??????? at sun.nio.ch.Net.connect(Native Method)
??????? at sun.nio.ch.SocketChannelImpl.connect(SocketChannelImpl.java:507)
??????? at java.nio.channels.SocketChannel.open(SocketChannel.java:146)
??????? at org.apache.zookeeper.server.quorum.QuorumCnxManager.connectOne(QuorumCnxManager.java:347)
??????? at org.apache.zookeeper.server.quorum.QuorumCnxManager.connectAll(QuorumCnxManager.java:381)
??????? at org.apache.zookeeper.server.quorum.FastLeaderElection.lookForLeader(FastLeaderElection.java:674)
??????? at org.apache.zookeeper.server.quorum.QuorumPeer.run(QuorumPeer.java:611)
2010-11-15 00:31:52,031 – INFO? [QuorumPeer:/0:0:0:0:0:0:0:0:2181:FastLeaderElection@683] – Notification time out: 12800
并且客戶端連接時(shí)還會拋出這樣的異常,說明連接被拒絕,并且等待一個(gè)socket連接新的連接,這里socket新的連接指的是zookeeper中的一個(gè)Follower。
org.apache.zookeeper.ClientCnxn$SendThread.startConnect(ClientCnxn.java:1000) Opening socket connection to server 192.168.50.211/192.168.50.211:2181??
org.apache.zookeeper.ClientCnxn$SendThread.primeConnection(ClientCnxn.java:908) Socket connection established to 192.168.50.211/192.168.50.211:2181, initiating session??
org.apache.zookeeper.ClientCnxn$SendThread.run(ClientCnxn.java:1118) Unable to read additional data from server sessionid 0×0, likely server has closed socket, closing socket connection and attempting reconnect??
org.apache.zookeeper.ClientCnxn$SendThread.startConnect(ClientCnxn.java:1000) Opening socket connection to server localhost/127.0.0.1:2181??
?2010-11-15 13:31:56,626 WARN?? org.apache.zookeeper.ClientCnxn$SendThread.run(ClientCnxn.java:1120) Session 0×0 for server null, unexpected error, closing socket connection and attempting reconnect??
?
?先寫到這里,全面了解Zookeeper不太容易,光看Apache Zookeeper官方的wiki和文檔還不能對其有深入的了解,想閱讀Zookeeper中的部分源代碼。另外,本人目前正在學(xué)習(xí)和了解ing,歡迎大家與我交流,謝謝。
?
原文:http://www.javabloger.com/article/apache-zookeeper-hadoop.html
轉(zhuǎn)載于:https://blog.51cto.com/chenlx/746364
新人創(chuàng)作打卡挑戰(zhàn)賽發(fā)博客就能抽獎!定制產(chǎn)品紅包拿不停!總結(jié)
以上是生活随笔為你收集整理的Apache Zookeeper入门1的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 让VMware由bios启动方式,转而支
- 下一篇: php5中this_self_paren