Hadoop学习笔记 ZooKeeper
Zookeeper是Hadoop的分布式協調服務。
?
Zookeeper是簡單的,它的核心是一個精簡的文件系統,它提供一些簡單的操作和額外的抽象操作,如排序和通知。
Zookeeper表現力足夠強,它的原語操作是一組豐富的構件,可用于實現很多協調數據結構和協議。如分布式隊列,分布式鎖和一組同級別的領導者選舉等。
Zookeeper具有高可用性,它運行在一組機器之上,并且在設計上具有高可用性,可以幫助系統避免單點故障。
Zookeeper采用松耦合交互方式,參與者不需要彼此了解。
Zookeeper是一個資源庫,它提供了一個關于通用協調模式實現和方法的開源共享存儲庫,能使程序員免于編寫這類通用的協議。
Zookeeper也是高性能的,對于以寫為主的基準吞吐量,已經超過 10000 ops,以讀為主的話還要高好幾倍。
?
?
Zookeeper可以被看成高可用的文件系統,但它沒有文件和目錄,因此可以看成一個由節點組成的目錄樹,節點統一稱為znode,最多可以存儲1M的內容。Znode的讀寫操作都是原語操作,即讀寫都是全部讀或全部寫,不存在讀一部分和寫一部分的操作,當然,也不能追加內容。因此,Zookeeper還有個組的概念,可以以組名命名父節點,成員作為子節點。
?
一個簡單的例子:
?
public class CreateGroup implements Watcher {
private static final int SESSION_TIMEOUT = 5000;
private ZooKeeper zk;
private CountDownLatch connectedSignal = new CountDownLatch(1);
public void connect(String hosts) throws IOException, InterruptedException {
zk = new ZooKeeper(hosts, SESSION_TIMEOUT, this);
connectedSignal.await();
}
@Override
public void process(WatchedEvent event) { // Watcher interface
if (event.getState() == KeeperState.SyncConnected) {
connectedSignal.countDown();
}
}
public void create(String groupName) throws KeeperException,
InterruptedException {
String path = "/" + groupName;
String createdPath = zk.create(path, null/*data*/, Ids.OPEN_ACL_UNSAFE,
CreateMode.PERSISTENT);
System.out.println("Created " + createdPath);
}
public void close() throws InterruptedException {
zk.close();
}
public static void main(String[] args) throws Exception {
CreateGroup createGroup = new CreateGroup();
createGroup.connect(args[0]);
createGroup.create(args[1]);
createGroup.close();
}
}
?
主要需要理解的一個是 Watcher接口,一個是connectedSignal。
Watcher對象主要接收Zookeeper的回調,以 獲得各種事件的通知。它接口中只有一個方法,process(WatchedEvent event),根據event的可以做處理。
當一個Zookeeper實例被創建時,會啟動一個線程連接到Zookeeper服務。由于構造函數是立即返回,因此使用新建的實例之前,要確保Zookeeper之間的連接已經建立。這時需要使用一個CountDownLatch類來完成這個工作。關于CountDownLatch的使用,可以參考這篇文章:淺析Java中CountDownLatch用法。
Znode以某種方式變化時,觀察機制可以讓客戶端得到通知。因此,可以在讀操作如 exists/getChildren/getData上設置觀察,寫操作create/delete和setData會觸發觀察器,產生一個觀察事件。
Zookeeper客戶端API
Zookeeper提供兩種API:同步執行的和異步執行的。
同步的直接返回Stat
public Stat exists(String path, Watcher watcher) throws KeeperException, InterruptedException
Stat是包含該znode元數據的對象。
異步接口使用回調實現:
public void exists(String path, Watcher watcher, StatCallback cb, Object ctx)
?
StatCallback接口有以下方法:
public void processResult(int rc, String path, Object ctx, Stat stat);
其中,rc參數是返回代碼,對應KeeperException的代碼,每個非零代碼都代表一個異常。
異步API允許你一流線方式處理請求,這在某些情況下可以提供更好的吞吐量。對于以事件驅動模型編程來說,異步也更適合。
?
ACL
每個znode被創建時,都會帶一個ACL列表,用于決定誰可以對他執行何種操作。ACL依賴于客戶端的身份驗證機制。Zookeeper提供三種身份驗證模式:
Digest:用戶名和密碼
Host:主機名
IP:ip地址
?
每個ACL都是身份驗證模式,符合該模式的身份和一組權限的組合。
轉載于:https://www.cnblogs.com/yangqk/archive/2012/06/21/2558105.html
總結
以上是生活随笔為你收集整理的Hadoop学习笔记 ZooKeeper的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 递增输出链表结点,删除重复结点
- 下一篇: 想要什么