ZooKeeper架构设计及其应用要点
ZooKeeper架構設計及其應用要點
ZooKeeper是一個開源的分布式服務框架，它是Apache Hadoop項目的一個子項目，主要用來解決分布式應用場景中存在的一些問題，如：統一命名服務、狀態同步服務、集群管理、分布式應用配置管理等，它支持Standalone模式和分布式模式，在分布式模式下，能夠為分布式應用提供高性能和可靠地協調服務，而且使用ZooKeeper可以大大簡化分布式協調服務的實現，為開發分布式應用極大地降低了成本。
總體架構
ZooKeeper分布式協調服務框架的總體架構，如圖所示：
ZooKeeper集群由一組Server節點組成，這一組Server節點中存在一個角色為Leader的節點，其他節點都為Follower。當客戶端Client連接到ZooKeeper集群，并且執行寫請求時，這些請求會被發送到Leader節點上，然后Leader節點上數據變更會同步到集群中其他的Follower節點。
Leader節點在接收到數據變更請求后，首先將變更寫入本地磁盤，以作恢復之用。當所有的寫請求持久化到磁盤以后，才會將變更應用到內存中。
ZooKeeper使用了一種自定義的原子消息協議，在消息層的這種原子特性，保證了整個協調系統中的節點數據或狀態的一致性。Follower基于這種消息協議能夠保證本地的ZooKeeper數據與Leader節點同步，然后基于本地的存儲來獨立地對外提供服務。
當一個Leader節點發生故障失效時，失敗故障是快速響應的，消息層負責重新選擇一個Leader，繼續作為協調服務集群的中心，處理客戶端寫請求，并將ZooKeeper協調系統的數據變更同步（廣播）到其他的Follower節點。
設計要點
ZooKeeper是基于如下4個目標來進行權衡和設計的，我們從設計及其特性的角度來詳細說明：
- 簡單
分布式應用中的各個進程可以通過ZooKeeper的命名空間（Namespace）來進行協調，這個命名空間是共享的、具有層次結構的，更重要的是它的結構足夠簡單，像我們平時接觸到的文件系統的目錄結構一樣容易理解，如圖所示：
在ZooKeeper中每個命名空間（Namespace）被稱為ZNode，你可以這樣理解，每個ZNode包含一個路徑和與之相關的元數據，以及繼承自該節點的孩子列表。與傳統文件系統不同的是，ZooKeeper中的數據保存在內存中，實現了分布式同步服務的高吞吐和低延遲。
在上圖示例的ZooKeeper的數據模型中，有如下要點：
ZooKeeper被設計為復制集群架構，每個節點的數據都可以在集群中復制傳播，使集群中的每個節點數據同步一致，從而達到服務的可靠性和可用性。前面說到，ZooKeeper將數據放在內存中來提高性能，為了避免發生單點故障（SPOF），支持數據的復制來達到冗余存儲，這是必不可少的。
- 有序
ZooKeeper使用時間戳來記錄導致狀態變更的事務性操作，也就是說，一組事務通過時間戳來保證有序性?；谶@一特性。ZooKeeper可以實現更加高級的抽象操作，如同步等。
- 快速
ZooKeeper包括讀寫兩種操作，基于ZooKeeper的分布式應用，如果是讀多寫少的應用場景（讀寫比例大約是10:1），那么讀性能更能夠體現出高效。
數據模型
ZooKeeper有一個分層的命名空間，結構類似文件系統的目錄結構，非常簡單而直觀。其中，ZNode是最重要的概念，前面我們已經描述過。另外，有ZNode有關的還包括Watches、ACL、臨時節點、序列節點（Sequence Node）。
- ZNode結構
ZooKeeper中使用Zxid（ZooKeeper Transaction Id）來表示每次節點數據變更，一個Zxid與一個時間戳對應，所以多個不同的變更對應的事務是有序的。下面是ZNode的組成結構，引用文檔如下所示：
- czxid – The zxid of the change that caused this znode to be created.
- mzxid – The zxid of the change that last modified this znode.
- ctime – The time in milliseconds from epoch when this znode was created.
- mtime – The time in milliseconds from epoch when this znode was last modified.
- version – The number of changes to the data of this znode.
- cversion – The number of changes to the children of this znode.
- aversion – The number of changes to the ACL of this znode.
- ephemeralOwner – The session id of the owner of this znode if the znode is an ephemeral node. If it is not an ephemeral node, it will be zero.
- dataLength – The length of the data field of this znode.
- numChildren – The number of children of this znode.
- Watches（監視）
ZooKeeper中的Watch是只能觸發一次。也就是說，如果客戶端在指定的ZNode設置了Watch，如果該ZNode數據發生變更，ZooKeeper會發送一個變更通知給客戶端，同時觸發設置的Watch事件。如果ZNode數據又發生了變更，客戶端在收到第一次通知后沒有重新設置該ZNode的Watch，則ZooKeeper就不會發送一個變更通知給客戶端。
ZooKeeper異步通知設置Watch的客戶端。但是ZooKeeper能夠保證在ZNode的變更生效之后才會異步地通知客戶端，然后客戶端才能夠看到ZNode的數據變更。由于網絡延遲，多個客戶端可能會在不同的時間看到ZNode數據的變更，但是看到變更的順序是能夠保證有序一致的。
ZNode可以設置兩類Watch，一個是Data Watches（該ZNode的數據變更導致觸發Watch事件），另一個是Child Watches（該ZNode的孩子節點發生變更導致觸發Watch事件）。調用getData()和exists() 方法可以設置Data Watches，調用getChildren()方法可以設置Child Watches。調用setData()方法觸發在該ZNode的注冊的Data Watches。調用create()方法創建一個ZNode，將觸發該ZNode的Data Watches；調用create()方法創建ZNode的孩子節點，則觸發ZNode的Child Watches。調用delete()方法刪除ZNode，則同時觸發Data Watches和Child Watches，如果該被刪除的ZNode還有父節點，則父節點觸發一個Child Watches。
另外，如果客戶端與ZooKeeper Server斷開連接，客戶端就無法觸發Watches，除非再次與ZooKeeper Server建立連接。
- Sequence Nodes（序列節點）
在創建ZNode的時候，可以請求ZooKeeper生成序列，以路徑名為前綴，計數器緊接在路徑名后面，例如，會生成類似如下形式序列：
| 1 | qn-0000000001, qn-0000000002, qn-0000000003, qn-0000000004, qn-0000000005, qn-0000000006, qn-0000000007 |
對于ZNode的父節點來說，序列中的每個計數器字符串都是唯一的，最大值為2147483647。
- ACLs（訪問控制列表）
ACL可以控制訪問ZooKeeper的節點，只能應用于特定的ZNode上，而不能應用于該ZNode的所有孩子節點上。它主要有如下五種權限：
- CREATE 允許創建Child Nodes
- READ 允許獲取ZNode的數據，以及該節點的孩子列表
- WRITE 可以修改ZNode的數據
- DELETE 可以刪除一個孩子節點
- ADMIN 可以設置權限
ZooKeeper內置了4種方式實現ACL：
- world 一個單獨的ID，表示任何人都可以訪問
- auth 不使用ID，只有認證的用戶可以訪問
- digest 使用username:password生成MD5哈希值作為認證ID
- ip 使用客戶端主機IP地址來進行認證
- ZooKeeper Session
當客戶端連接到ZooKeeper集群時，建立了會話。會話過程中的狀態變遷，如圖所示：
建立連接過程中，會話狀態為CONNECTING；當連接建立成功后，會話狀態變為CONNECTED。會話過程中，如果正常的話，會話的狀態只能是CONNECTING和CONNECTED二者之一。如果在會話過程中連接斷開，則變為CLOSED狀態。
應用陷阱
并非任何分布式應用都適合使用ZooKeeper來構建協調服務，我們根據ZooKeeper提供的文檔，給出哪些情況下使用會出現問題，又是如何應對這種問題的?？偨Y如下：
客戶端連接到ZooKeeper Server以后，會維護一個TCP連接。在CONNECTED狀態下，客戶端設置了某個ZNode的Watch監聽器，可以收到來自該節點變更的通知（后續會觸發一定的邏輯執行流程）。但是，如果由于網絡異常，客戶端斷開了與ZooKeeper Server的連接，在斷開的過程中，是無法收到ZooKeeper在ZNode上發送的節點數據變更通知的。
所以，如果使用ZooKeeper的Watch，必須要尋找保持CONNECTED的Watch，才能保證不會丟失該Watch監控的ZNode上的數據變更通知。
與ZooKeeper集群交互時，一般情況下客戶端會持有一個ZooKeeper集群節點的列表，或者列表的子集，那么會存在如下兩種情況：
一種情況是，如果客戶端持有的列表或者列表子集，其中節點都處于Active狀態，能夠提供協調服務，那么客戶端訪問ZooKeeper集群沒有任何問題。
另一種情況，客戶端持有ZooKeeper集群節點列表或列表子集，如果列表中的某些節點因為故障退出了集群，如果客戶端再次連接這一類失效的節點，就無法獲取服務。
所以，我們在應用中使用ZooKeeper集群時，一定要明確這一點，或者跳過無效的節點，或者重新尋找有效的節點繼續業務處理，或者檢查ZooKeeper集群，使整個集群恢復正常。
如果設置Java堆內存（Heap）不合理，會導致ZooKeeper內存不足，會在內存與文件系統之間進行數據交換，導致ZooKeeper的性能極大地下降，從而可能會影響應用程序。
為了避免Swapping問題的出現，主要考慮設置足夠的Java堆內存，同時減少被操作系統和Cache使用的內存，盡量避免在內存與文件系統之間發生數據交換，或者可以將交換限制在一定的范圍之內。
ZooKeeper會同步事務到存儲設備，如果存儲設備不是專用的，而是和其他I/O密集型應用共享同一磁盤，會導致ZooKeeper的效率。因為客戶端請求ZNode數據變更而發生的事務，ZooKeeper會在響應之前將事務日志寫入存儲設備，如果存儲設備是專用的，那么整個服務以至外部應用都會獲得極大地性能提升。
ZooKeeper的設計初衷是，每個ZNode只存放少量的同步數據，如果存儲了大量數據，導致ZooKeeper每次節點發生變更時需要將事務寫入存儲設備，同時還要在集群內部復制傳播，這將導致不可避免的延遲和性能問題。
所以，如果需要與大量的數據相關，可以將大量數據存儲在其他設備中，而只是在ZooKeeper中存儲一個簡單的映射，如指針、引用等等。
參考鏈接
- http://zookeeper.apache.org/
- http://zookeeper.apache.org/doc/r3.3.4/zookeeperOver.html
- http://wiki.apache.org/hadoop/ZooKeeper/PoweredBy
- http://www.ibm.com/developerworks/cn/opensource/os-cn-zookeeper/
- http://zookeeper.apache.org/doc/r3.3.4/recipes.html
- http://zookeeper.apache.org/doc/r3.3.4/zookeeperProgrammers.html
轉載于:https://www.cnblogs.com/zzwx/p/8820196.html
總結
以上是生活随笔為你收集整理的ZooKeeper架构设计及其应用要点的全部內容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： Ajax+Node.js前后端交互最佳入
- 下一篇： Python + Selenium 练习