日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

超全zookeeper知识点与实战

發(fā)布時間:2023/12/15 编程问答 54 豆豆
生活随笔 收集整理的這篇文章主要介紹了 超全zookeeper知识点与实战 小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.

第1章 Zookeeper
1.1 概述
Zookeeper是一個開源的分布式的,為分布式應(yīng)用提供協(xié)調(diào)服務(wù)的Apache項目。

配合其他服務(wù)器,
文件系統(tǒng)——存儲各種服務(wù)器上線信息
通知機制——客戶端跟zookeeper打招呼
1.2 特點

1)Zookeeper:一個領(lǐng)導(dǎo)者(Leader),多個跟隨者(Follower)組成的集群。
2)集群中只要有半數(shù)以上節(jié)點存活,Zookeeper集群就能正常服務(wù)。所以Zookeeper適合安裝奇數(shù)臺服務(wù)器。 (如果偶數(shù)就浪費了一臺集群)
3)全局數(shù)據(jù)一致:每個Server保存一份相同的數(shù)據(jù)副本,Client無論連接到哪個Server,數(shù)據(jù)都是一致的。
4)更新請求順序執(zhí)行,來自同一個Client的更新請求按其發(fā)送順序依次執(zhí)行。
5)數(shù)據(jù)更新原子性,一次數(shù)據(jù)更新要么成功,要么失敗。
(封裝成一個大的事務(wù),要么整體成功,要么整體失敗)
6)實時性,在一定時間范圍內(nèi),Client能讀到最新數(shù)據(jù)。
(同步數(shù)據(jù),速度非常快,因為zookeeper里面的數(shù)據(jù)非常小)
1.3 數(shù)據(jù)結(jié)構(gòu)
數(shù)據(jù)結(jié)構(gòu)
ZooKeeper數(shù)據(jù)模型的結(jié)構(gòu)與Unix文件系統(tǒng)很類似,整體上可以看作是一棵樹,每個節(jié)點稱做一個ZNode。每一個ZNode默認能夠存儲1MB的數(shù)據(jù),每個ZNode都可以通過其路徑唯一標識。

存儲的數(shù)據(jù)量比較小,存儲的內(nèi)容有限
1.4 應(yīng)用場景
提供的服務(wù)包括:統(tǒng)一命名服務(wù)、統(tǒng)一配置管理、統(tǒng)一集群管理、服務(wù)器節(jié)點動態(tài)上下線、軟負載均衡等。

統(tǒng)一命名服務(wù)
在分布式環(huán)境下,經(jīng)常需要對應(yīng)用/服務(wù)進行統(tǒng)一命名,便于識別。
例如:IP不容易記住,而域名容易記住。

統(tǒng)一配置管理
1)分布式環(huán)境下,配置文件同步非常常見。
(1)一般要求一個集群中,所有節(jié)點的配置信息是一致的,比如 Kafka 集群。
(2)對配置文件修改后,希望能夠快速同步到各個節(jié)點上。
2) 配置管理可交由ZooKeeper實現(xiàn)。
(1)可將配置信息寫入ZooKeeper上的一個Znode。
(2)各個客戶端服務(wù)器監(jiān)聽這個Znode。
(3)一旦Znode中的數(shù)據(jù)被修改,ZooKeeper將通知各個客戶端服務(wù)器。

1)分布式環(huán)境中,實時掌握每個節(jié)點的狀態(tài)是必要的。
(1)可根據(jù)節(jié)點實時狀態(tài)做出一些調(diào)整。
2)ZooKeeper可以實現(xiàn)實時監(jiān)控節(jié)點狀態(tài)變化
(1)可將節(jié)點運行狀態(tài)信息寫入ZooKeeper上的一個ZNode。
(2)監(jiān)聽這個ZNode可獲取它的實時狀態(tài)變化。
相當于講客戶端所有的相關(guān)信息注冊上之后,進行統(tǒng)一的集群管理,以及集群狀態(tài)的好壞

服務(wù)器動態(tài)上下線

軟負載均衡
在Zookeeper中記錄每臺服務(wù)器的訪問數(shù),讓訪問數(shù)最少的服務(wù)器去處理最新的客戶端請求

服務(wù)器注冊域名,下面有多臺服務(wù)器,多臺服務(wù)器有一個接客線程數(shù),zookeeper根據(jù)每一個節(jié)點上對應(yīng)的訪問數(shù)來進行軟負載均衡

1.5 下載地址
1)官網(wǎng)首頁:
https://zookeeper.apache.org/
2)下載截圖

選擇相對穩(wěn)定的老版本

第2章 Zookeeper本地安裝
2.1 本地模式安裝部署
1)安裝前準備
(1)安裝Jdk
(2)拷貝Zookeeper安裝包到Linux系統(tǒng)下
先啟動三臺集群

(3)解壓到指定目錄

[leokadia@hadoop102 software]$ tar -zxvf apache-zookeeper-3.5.7-bin.tar.gz -C /opt/module/


查看

改名

[leokadia@hadoop102 module]$ mv apache-zookeeper-3.5.7-bin/ zookeeper-3.5.7


2)配置修改
(1)將/opt/module/zookeeper-3.5.7/conf這個路徑下的zoo_sample.cfg修改為zoo.cfg;

[leokadia@hadoop102 conf]$ mv zoo_sample.cfg zoo.cfg

(2)打開zoo.cfg文件,修改dataDir路徑:

[leokadia@hadoop102 conf]$ vim zoo.cfg

/tmp存儲的是臨時數(shù)據(jù),到了一個月會被刪除掉,也就是到了1個月zookeeper數(shù)據(jù)都沒了,于是需要創(chuàng)建一個目錄進行保存,通常創(chuàng)建zkData

想把數(shù)據(jù)放在自己的框架下,于是在自己的目錄下創(chuàng)建目錄zkData

(3)在/opt/module/zookeeper-3.5.7/這個目錄上創(chuàng)建zkData文件夾

[leokadia@hadoop102 zookeeper-3.5.7]$ mkdir zkData


在配置文件中修改如下內(nèi)容:

dataDir=/opt/module/zookeeper-3.5.7/zkData

3)操作Zookeeper
(1)啟動Zookeeper

[leokadia@hadoop102 zookeeper-3.5.7]$ bin/zkServer.sh start

(2)查看進程是否啟動

[leokadia@hadoop102 zookeeper-3.5.7]$ jps

(3)查看狀態(tài):

[leokadia@hadoop102 zookeeper-3.5.7]$ bin/zkServer.sh status!


(4)啟動客戶端:

[leokadia@hadoop102 zookeeper-3.5.7]$ bin/zkCli.sh

(5)退出客戶端:

[zk: localhost:2181(CONNECTED) 0] quit

(6)停止Zookeeper

[leokadia@hadoop102 zookeeper-3.5.7]$ bin/zkServer.sh stop

2.2 配置參數(shù)解讀

Zookeeper中的配置文件zoo.cfg中參數(shù)含義解讀如下:
1)tickTime =2000:通信心跳數(shù),Zookeeper服務(wù)器與客戶端心跳時間,單位毫秒
Zookeeper使用的基本時間,服務(wù)器之間或客戶端與服務(wù)器之間維持心跳的時間間隔,也就是每個tickTime時間就會發(fā)送一個心跳,時間單位為毫秒。
它用于心跳機制,并且設(shè)置最小的session超時時間為兩倍心跳時間。(session的最小超時時間是2*tickTime)

即客戶端與服務(wù)端,服務(wù)端與服務(wù)段2s中發(fā)一次通信

2)initLimit =10:LF初始通信時限
集群中的Follower跟隨者服務(wù)器與Leader領(lǐng)導(dǎo)者服務(wù)器之間初始連接時能容忍的最多心跳數(shù)(tickTime的數(shù)量),用它來限定集群中的Zookeeper服務(wù)器連接到Leader的時限。

初始化在10個心跳(20s)還沒有建立連接,這個通信就是失敗的

3)syncLimit =5:LF同步通信時限
集群中Leader與Follower之間的最大響應(yīng)時間單位,假如響應(yīng)超過syncLimit * tickTime,Leader認為Follwer死掉,從服務(wù)器列表中刪除Follwer。

4)dataDir:數(shù)據(jù)文件目錄+數(shù)據(jù)持久化路徑
主要用于保存Zookeeper中的數(shù)據(jù)。

注意:默認的tmp目錄,容易被Linux系統(tǒng)定期刪除,所以一般不用默認的tmp目錄。

5)clientPort =2181:客戶端連接端口
監(jiān)聽客戶端連接的端口。通常情況下不做修改。

第3章 Zookeeper實戰(zhàn)(開發(fā)重點)

3.1 分布式安裝部署

1)集群規(guī)劃
在hadoop102、hadoop103和hadoop104三個節(jié)點上部署Zookeeper。
2)解壓安裝
(1)解壓Zookeeper安裝包到/opt/module/目錄下

[leokadia@hadoop102 software]$ tar -zxvf apache-zookeeper-3.5.7-bin.tar.gz -C /opt/module/

之前本地做過了

(2)同步/opt/module/zookeeper-3.5.7目錄內(nèi)容到hadoop103、hadoop104

[leokadia@hadoop102 module]$ xsync zookeeper-3.5.7/

3)配置服務(wù)器編號
(1)在/opt/module/zookeeper-3.5.7/這個目錄下創(chuàng)建zkData

[leokadia@hadoop102 zookeeper-3.5.7]$ mkdir -p zkData

(2)在/opt/module/zookeeper-3.5.7/zkData目錄下創(chuàng)建一個myid的文件

[leokadia@hadoop102 zkData]$ touch myid

添加myid文件,注意一定要在linux里面創(chuàng)建,在notepad++里面很可能亂碼
(3)編輯myid文件

[leokadia@hadoop102 zkData]$ vi myid

在文件中添加與server對應(yīng)的編號:
2

Hadoop102 配置2,hadoop103配置3,hadoop104配置4

(4)拷貝配置好的zookeeper到其他機器上

[leokadia@hadoop102 zkData]$ xsync myid

如果前面沒分發(fā),同步/opt/module/zookeeper-3.5.7目錄內(nèi)容到hadoop103、hadoop104,當然也可以等到后面一起分發(fā)

[leokadia@hadoop102 module]$ xsync zookeeper-3.5.7/

并分別在hadoop103、hadoop104上修改myid文件中內(nèi)容為3、4



4)配置zoo.cfg文件
(1)重命名/opt/module/zookeeper-3.5.7/conf這個目錄下的zoo_sample.cfg為zoo.cfg

[leokadia@hadoop102 conf]$ mv zoo_sample.cfg zoo.cfg

(2)打開zoo.cfg文件

[leokadia@hadoop102 conf]$ vim zoo.cfg

修改數(shù)據(jù)存儲路徑配置(在上文已經(jīng)做過了)
dataDir=/opt/module/zookeeper-3.5.7/zkData
增加如下配置

#######################cluster########################## server.2=hadoop102:2888:3888 server.3=hadoop103:2888:3888 server.4=hadoop104:2888:3888

(3)同步zoo.cfg配置文件

[leokadia@hadoop102 conf]$ xsync zoo.cfg


檢查是否分發(fā)成功

hadoop103修改成功

(4)配置參數(shù)解讀
server.A=B:C:D。
A是一個數(shù)字,表示這個是第幾號服務(wù)器;
集群模式下配置一個文件myid,這個文件在dataDir目錄下,這個文件里面有一個數(shù)據(jù)就是A的值,Zookeeper啟動時讀取此文件,拿到里面的數(shù)據(jù)與zoo.cfg里面的配置信息比較從而判斷到底是哪個server。
B是這個服務(wù)器的地址;
C是這個服務(wù)器Follower與集群中的Leader服務(wù)器交換信息的端口;
D是萬一集群中的Leader服務(wù)器掛了,需要一個端口來重新進行選舉,選出一個新的Leader,而這個端口就是用來執(zhí)行選舉時服務(wù)器相互通信的端口。
5)集群操作
(1)分別啟動Zookeeper

[leokadia@hadoop102 zookeeper-3.5.7]$ bin/zkServer.sh start [leokadia@hadoop103 zookeeper-3.5.7]$ bin/zkServer.sh start [leokadia@hadoop104 zookeeper-3.5.7]$ bin/zkServer.sh start

注:如果只啟動一臺集群查看狀態(tài),發(fā)現(xiàn)沒有啟動起來,因為此時是3臺服務(wù)器,目前只啟動一臺服務(wù)器,沒有達到超過半數(shù),就不會選出對應(yīng)的Leader,對應(yīng)的集群就沒法工作,集群必須要有超過半數(shù)以上的服務(wù)器是好的,才能正常工作

如何知道是否超過半數(shù)了呢?根據(jù)配置文件剛剛配置文件中寫了有3臺服務(wù)器


此時我們啟動第二臺服務(wù)器,可以發(fā)現(xiàn)hadoop103成為了leader

再查看hadoop102,發(fā)現(xiàn)其成為了follower

此時再啟動hadoop104,查看狀態(tài)

發(fā)現(xiàn)104為follower

(2)查看狀態(tài)(見上圖)

[leokadia@hadoop102 zookeeper-3.5.7]# bin/zkServer.sh status JMX enabled by default Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg Mode: follower [leokadia@hadoop103 zookeeper-3.5.7]# bin/zkServer.sh status JMX enabled by default Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg Mode: leader [leokadia@hadoop104 zookeeper-3.4.5]# bin/zkServer.sh status JMX enabled by default Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg Mode: follower

3.1.2 集群啟動停止腳本

由于如果集群較多的話,每一臺集群啟動和停止都需要輸入命令太過于繁瑣,故編寫腳本統(tǒng)一啟動和停止。
1)在 hadoop102 的/home/leokadia/bin 目錄下創(chuàng)建腳本

[leokadia@hadoop102 bin]$ vim zk.sh

在腳本中編寫如下內(nèi)容

#!/bin/bash case $1 in "start"){for i in hadoop102 hadoop103 hadoop104doecho ---------- zookeeper $i 啟動 ------------ssh $i "/opt/module/zookeeper-3.5.7/bin/zkServer.sh start"done };; "stop"){for i in hadoop102 hadoop103 hadoop104doecho ---------- zookeeper $i 停止 ------------ssh $i "/opt/module/zookeeper-3.5.7/bin/zkServer.sh stop"done };; "status"){for i in hadoop102 hadoop103 hadoop104doecho ---------- zookeeper $i 狀態(tài) ------------ssh $i "/opt/module/zookeeper-3.5.7/bin/zkServer.sh status"done };; esac

2)增加腳本執(zhí)行權(quán)限

[leokadia@hadoop102 bin]$ chmod 777 zk.sh

3)Zookeeper 集群啟動腳本
先啟動一下hadoop集群

[leokadia@hadoop102 bin]$ jpsall

啟動zk集群

[leokadia@hadoop102 bin]$ zk.sh start


查看各集群狀態(tài):

[leokadia@hadoop102 bin]$ zk.sh status

4)Zookeeper 集群停止腳本

[leokadia@hadoop102 bin]$ zk.sh stop

3.2 客戶端命令行操作

命令基本語法 功能描述
help 顯示所有操作命令
ls path 使用 ls 命令來查看當前znode的子節(jié)點
-w 監(jiān)聽子節(jié)點變化
-s 附加次級信息
create 普通創(chuàng)建
-s 含有序列
-e 臨時(重啟或者超時消失)
get path 獲得節(jié)點的值
-w 監(jiān)聽節(jié)點內(nèi)容變化
-s 附加次級信息
set 設(shè)置節(jié)點的具體值
stat 查看節(jié)點狀態(tài)
delete 刪除節(jié)點
deleteall 遞歸刪除節(jié)點

先啟動集群

1)啟動客戶端

[leokadia@hadoop103 zookeeper-3.5.7]$ bin/zkCli.sh



啟動之后發(fā)現(xiàn)是個本地的客戶端,想要把它變成hadoop102或者103這種的客戶端,先輸入quit退出,再輸入

[leokadia@hadoop102 zookeeper-3.5.7]$ bin/zkCli.sh -server hadoop102:2181

2)顯示所有操作命令

[zk: localhost:2181(CONNECTED) 1] help

3)查看當前znode中所包含的內(nèi)容

[zk: localhost:2181(CONNECTED) 0] ls / [zookeeper]

4)查看當前節(jié)點詳細數(shù)據(jù)

[zk: localhost:2181(CONNECTED) 1] ls2 / [zookeeper] cZxid = 0x0 ctime = Thu Jan 01 08:00:00 CST 1970 mZxid = 0x0 mtime = Thu Jan 01 08:00:00 CST 1970 pZxid = 0x0 cversion = -1 dataVersion = 0 aclVersion = 0 ephemeralOwner = 0x0 dataLength = 0 numChildren = 1


(1)czxid:創(chuàng)建節(jié)點的事務(wù) zxid
每次修改 ZooKeeper 狀態(tài)都會產(chǎn)生一個 ZooKeeper 事務(wù) ID。事務(wù) ID 是 ZooKeeper 中所 有修改總的次序。每次修改都有唯一的 zxid,如果 zxid1 小于 zxid2,那么 zxid1 在 zxid2 之 前發(fā)生。
(2)ctime:znode 被創(chuàng)建的毫秒數(shù)(從 1970 年開始)
(3)mzxid:znode 最后更新的事務(wù) zxid
(4)mtime:znode 最后修改的毫秒數(shù)(從 1970 年開始)
(5)pZxid:znode 最后更新的子節(jié)點 zxid (存儲的是樹形結(jié)構(gòu))
(6)cversion:znode 子節(jié)點變化號,znode 子節(jié)點修改次數(shù)
(7)dataversion:znode 數(shù)據(jù)變化號
(8)aclVersion:znode 訪問控制列表的變化號
(9)ephemeralOwner:如果是臨時節(jié)點,這個是 znode 擁有者的 session id。如果不是 臨時節(jié)點則是 0。
(10)dataLength:znode 的數(shù)據(jù)長度
(11)numChildren:znode 子節(jié)點數(shù)量

1)分別創(chuàng)建2個普通節(jié)點(永久節(jié)點)還是用的漫威的例子

[zk: hadoop102:2181(CONNECTED) 7] create /hero "ironman" Created /hero [zk: hadoop102:2181(CONNECTED) 9] create /hero/Marvel "Hulk" Created /hero/Marvel

2)獲得節(jié)點的值

[zk: hadoop102:2181(CONNECTED) 12] get -s /hero ironman cZxid = 0x300000006 ctime = Sat Nov 27 08:07:39 CST 2021 mZxid = 0x300000006 mtime = Sat Nov 27 08:07:39 CST 2021 pZxid = 0x300000007 cversion = 1 dataVersion = 0 aclVersion = 0 ephemeralOwner = 0x0 dataLength = 7 numChildren = 1 [zk: hadoop102:2181(CONNECTED) 13] get -s /hero/Marvel Hulk cZxid = 0x300000007 ctime = Sat Nov 27 08:10:48 CST 2021 mZxid = 0x300000007 mtime = Sat Nov 27 08:10:48 CST 2021 pZxid = 0x300000007 cversion = 0 dataVersion = 0 aclVersion = 0 ephemeralOwner = 0x0 dataLength = 4 numChildren = 0


3)創(chuàng)建帶序號的節(jié)點(永久節(jié)點 + 帶序號)

[zk: hadoop102:2181(CONNECTED) 4] create -s /hero/DC/Batman "Batman" Created /hero/DC/Batman0000000000

那么帶序號和不帶序號的節(jié)點有什么區(qū)別嗎?
帶序號的節(jié)點可以創(chuàng)建相同名稱的節(jié)點,序號自動加1,不帶序號的不能重復(fù)創(chuàng)建同名結(jié)點。

驗證退出客戶端,節(jié)點是否還是存在

節(jié)點沒有被刪除


如果原來沒有序號節(jié)點,序號從 0 開始依次遞增。如果原節(jié)點下已有 2 個節(jié)點,則再排 序時從 2 開始,以此類推。

[zk: hadoop102:2181(CONNECTED) 14] create -e /hero/Darkhorse "darkhorse" Created /hero/Darkhorse [zk: hadoop102:2181(CONNECTED) 15] create -e -s /hero/Darkhorse "darkhorse" Created /hero/Darkhorse0000000003


退出后,發(fā)現(xiàn)臨時節(jié)點消失

9)修改節(jié)點數(shù)據(jù)值

[zk: hadoop102:2181(CONNECTED) 3] set -s /hero/DC "DC"

3.2.4 監(jiān)聽器原理

客戶端注冊監(jiān)聽它關(guān)心的目錄節(jié)點,當目錄節(jié)點發(fā)生變化(數(shù)據(jù)改變、節(jié)點刪除、子目 錄節(jié)點增加刪除)時,ZooKeeper 會通知客戶端。監(jiān)聽機制保證 ZooKeeper 保存的任何的數(shù) 據(jù)的任何改變都能快速的響應(yīng)到監(jiān)聽了該節(jié)點的應(yīng)用程序。

1、監(jiān)聽原理詳解

  • 1)首先在要有一個main()線程
  • 2)在main線程中創(chuàng)建Zookeeper客戶端,這時就會創(chuàng)建兩個線程,一個負責網(wǎng)絡(luò)連接通信(connet),一個負責監(jiān)聽(listener)。
  • 3)通過connect線程將注冊的監(jiān)聽事件發(fā)送給Zookeeper。
  • 4)在Zookeeper的注冊監(jiān)聽器列表中將注冊的監(jiān)聽事件添加到列表中。
  • 5)Zookeeper監(jiān)聽到有數(shù)據(jù)或路徑變化,就會將這個消息發(fā)送給listener線程。
  • 6)listener線程內(nèi)部調(diào)用了process()方法。


2、常見的監(jiān)聽
1)監(jiān)聽節(jié)點數(shù)據(jù)的變化
get path [watch]
2)監(jiān)聽子節(jié)點增減的變化
ls path [watch]


10)節(jié)點的值變化監(jiān)聽
(1)在hadoop104主機上注冊監(jiān)聽/hero節(jié)點數(shù)據(jù)變化

[zk: localhost:2181(CONNECTED) 1] get -w /hero

(2)在hadoop103主機上修改/sanguo節(jié)點的數(shù)據(jù)

[zk: localhost:2181(CONNECTED) 0] set /hero "Avengers"

(3)觀察hadoop104主機收到數(shù)據(jù)變化的監(jiān)聽

WATCHER:: WatchedEvent state:SyncConnected type:NodeDataChanged path:/hero


再次修改數(shù)據(jù),hadoop104無變化,監(jiān)聽不到


注意:在hadoop103再多次修改/hero的值,hadoop104上不會再收到監(jiān)聽。因為注冊 一次,只能監(jiān)聽一次。想再次監(jiān)聽,需要再次注冊。

2)節(jié)點的子節(jié)點變化監(jiān)聽(路徑變化)
(1)在hadoop104主機上注冊監(jiān)聽/sanguo節(jié)點的子節(jié)點變化

[zk: localhost:2181(CONNECTED) 1] ls -w/hero

(2)在hadoop103主機/sanguo節(jié)點上創(chuàng)建子節(jié)點

[zk: localhost:2181(CONNECTED) 0] create /hero/Disney "Woody" Created /hero/Disney

(3)觀察hadoop104主機收到子節(jié)點變化的監(jiān)聽

WATCHER:: WatchedEvent state:SyncConnected type:NodeChildrenChanged path:/hero


同理,再在hadoop103創(chuàng)建子節(jié)點,hadoop104上不會再收到監(jiān)聽。因為注冊一次,只能監(jiān)聽一次。想再次監(jiān)聽,需要再次注冊。

注意:節(jié)點的路徑變化,也是注冊一次,生效一次。想多次生效,就需要多次注冊。

3.2.5 節(jié)點刪除與查找

12)刪除節(jié)點

[zk: localhost:2181(CONNECTED) 7] delete /hero/Disney

2)遞歸刪除節(jié)點

[zk: localhost:2181(CONNECTED) 15] deleteall/hero

3)查看節(jié)點狀態(tài)

[zk: localhost:2181(CONNECTED) 17] stat /zookeeper

3.3 客戶端API應(yīng)用

3.3.1 IDEA環(huán)境搭建

1)創(chuàng)建一個Maven工程

2)添加pom文件

<dependencies><dependency><groupId>junit</groupId><artifactId>junit</artifactId><version>RELEASE</version></dependency><dependency><groupId>org.apache.logging.log4j</groupId><artifactId>log4j-core</artifactId><version>2.8.2</version></dependency><dependency><groupId>org.apache.zookeeper</groupId><artifactId>zookeeper</artifactId><version>3.5.7</version></dependency> </dependencies>


3)拷貝log4j.properties文件到項目根目錄
需要在項目的src/main/resources目錄下,新建一個文件,命名為“l(fā)og4j.properties”,在文件中填入。

log4j.rootLogger=INFO, stdout log4j.appender.stdout=org.apache.log4j.ConsoleAppender log4j.appender.stdout.layout=org.apache.log4j.PatternLayout log4j.appender.stdout.layout.ConversionPattern=%d %p [%c] - %m%n log4j.appender.logfile=org.apache.log4j.FileAppender log4j.appender.logfile.File=target/spring.log log4j.appender.logfile.layout=org.apache.log4j.PatternLayout log4j.appender.logfile.layout.ConversionPattern=%d %p [%c] - %m%n


3.3.2 創(chuàng)建ZooKeeper客戶端

public class zkClient {// 注意:逗號左右不能有空格private String connectString = "hadoop102:2181,hadoop103:2181,hadoop104:2181";private int sessionTimeout = 2000;private ZooKeeper zkClient;@Beforepublic void init() throws IOException {zkClient = new ZooKeeper(connectString, sessionTimeout, new Watcher() {@Overridepublic void process(WatchedEvent watchedEvent) {}});}}

3.3.3 創(chuàng)建子節(jié)點

@Testpublic void create() throws KeeperException, InterruptedException {String nodeCreated = zkClient.create("/leokadia", "sa.avi".getBytes(), ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.PERSISTENT);//創(chuàng)建持久節(jié)點}


在hadoop103上驗證是否創(chuàng)建對應(yīng)節(jié)點,創(chuàng)建成功

3.3.4 獲取子節(jié)點并監(jiān)聽節(jié)點變化

@Test public void getChildren() throws Exception {List<String> children = zkClient.getChildren("/", true);for (String child : children) {System.out.println(child);}// 延時阻塞Thread.sleep(Long.MAX_VALUE); }


成功打印節(jié)點
在集群中創(chuàng)建節(jié)點,希望在控制臺上有變化所以需要加一個延時

但由于這里只注冊監(jiān)聽一次,就失效了,故將其移到上面代碼中

在控制臺創(chuàng)建節(jié)點

成功監(jiān)聽

刪除節(jié)點也能順利監(jiān)聽

3.3.5 判斷Znode是否存在

@Test public void exist() throws Exception {Stat stat = zkClient.exists("/eclipse", false);System.out.println(stat == null ? "not exist" : "exist"); }


在集群中將其刪除

再次運行代碼,不存在

3.4 客戶端向服務(wù)端寫數(shù)據(jù)流程

3.4.1 寫流程之寫入請求直接發(fā)送給Leader節(jié)點

寫請求給leader,leader將寫請求通知follower,follower寫完之后回復(fù)leader以ack,當超過半數(shù)的寫完了,就回復(fù)客戶端寫完了,其余沒寫完的繼續(xù)寫

3.4.2 寫流程之寫入請求發(fā)送給follower節(jié)點

follower沒有寫權(quán)限,將寫請求送給有權(quán)限的Leader,Leader先自己寫一份,寫完后,傳達寫命令給其他的Follower節(jié)點,讓他們寫,當超過半數(shù)的寫完了,Leader就回復(fù)最先收到請求的Follower,整個集群數(shù)據(jù)寫完了,Follower回復(fù)客戶端寫完了,其余沒寫完的小半數(shù)Follower繼續(xù)寫

4 監(jiān)聽服務(wù)器節(jié)點動態(tài)上下線案例

1)需求
某分布式系統(tǒng)中,主節(jié)點可以有多臺,可以動態(tài)上下線,任意一臺客戶端都能實時感知到主節(jié)點服務(wù)器的上下線。
2)需求分析

  • 服務(wù)器上線,可以對外提供服務(wù),告訴zookeeper集群可以對外提供服務(wù):
    第一臺服務(wù)器上線,在zookeeper上創(chuàng)建對應(yīng)的節(jié)點servers/server1 hadoop101 80 nodes,在節(jié)點上提供的信息為,該節(jié)點主機的名稱為hadoop101,當前已經(jīng)連接了80個客戶端(即為該節(jié)點存儲的數(shù)據(jù))
    第二臺服務(wù)器上線,在zookeeper上創(chuàng)建對應(yīng)的節(jié)點servers/server2 hadoop102 90 nodes,在節(jié)點上提供的信息為,該節(jié)點主機的名稱為hadoop102,當前已經(jīng)連接了90個客戶端(即為該節(jié)點存儲的數(shù)據(jù))
    第三臺服務(wù)器上線,在zookeeper上創(chuàng)建對應(yīng)的節(jié)點servers/server3 hadoop103 95 nodes,在節(jié)點上提供的信息為,該節(jié)點主機的名稱為hadoop103,當前已經(jīng)連接了95個客戶端(即為該節(jié)點存儲的數(shù)據(jù))
    總結(jié):上線服務(wù)器就是在zookeeper集群創(chuàng)建服務(wù)器節(jié)點的操作
  • 客戶端獲取當前在線服務(wù)器列表并注冊監(jiān)聽,監(jiān)控節(jié)點數(shù)據(jù)的變化——監(jiān)聽器原理
  • 如果服務(wù)器2掛掉了(如果服務(wù)器2創(chuàng)建的是一個臨時節(jié)點-e,該節(jié)點servers/server2 hadoop102 90 nodes消失)
  • 客戶端監(jiān)聽servers節(jié)點的變化,收到相關(guān)信息,知道該節(jié)點下有子節(jié)點的刪除,即服務(wù)器2下線的通知。
  • 客戶端重新再去獲取服務(wù)器列表,并注冊監(jiān)聽,再考慮連接服務(wù)器的時候就不考慮連接服務(wù)器2,只會考慮連接服務(wù)器1,3。
  • 回顧之前API操作,上面服務(wù)器的操作是create操作,下面是-w監(jiān)聽操作

    3)具體實現(xiàn)
    先將集群之前測試用的多于的節(jié)點都刪除,只留zookeeper節(jié)點

    (0)先在集群上創(chuàng)建/servers節(jié)點
    [zk: localhost:2181(CONNECTED) 11] create /servers “servers”
    Created /servers

    (1)服務(wù)器端向Zookeeper注冊代碼

    package com.leokadia.case1;import org.apache.zookeeper.*;import java.io.IOException;public class DistributeServer {private String connectString = "hadoop102:2181,hadoop103:2181,hadoop104:2181";private int sessionTimeout = 2000;private ZooKeeper zk;public static void main(String[] args) throws IOException, KeeperException, InterruptedException {DistributeServer server = new DistributeServer();// 1 獲取zk連接server.getConnect();// 2 注冊服務(wù)器到zk集群server.regist(args[0]);// 3 啟動業(yè)務(wù)邏輯(等待)server.business();}private void business() throws InterruptedException {Thread.sleep(Long.MAX_VALUE);}// 2 注冊服務(wù)器到zk集群,創(chuàng)建對應(yīng)的路徑,在節(jié)點上輸入對應(yīng)主機名稱private void regist(String hostname) throws KeeperException, InterruptedException {String create = zk.create("/servers/"+hostname, hostname.getBytes(), ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL_SEQUENTIAL);//路徑 主機名稱 權(quán)限,上線就有,沒上線就沒有,且有對應(yīng)的編號,因此創(chuàng)建臨時帶編號節(jié)點-e-sSystem.out.println(hostname +" is online") ;}private void getConnect() throws IOException {//連接器連接上對應(yīng)的zookeeperzk = new ZooKeeper(connectString, sessionTimeout, new Watcher() {@Overridepublic void process(WatchedEvent watchedEvent) {}});} }

    (2)客戶端代碼

    package com.leokadia.case1;import org.apache.zookeeper.KeeperException; import org.apache.zookeeper.WatchedEvent; import org.apache.zookeeper.Watcher; import org.apache.zookeeper.ZooKeeper;import java.io.IOException; import java.util.ArrayList; import java.util.List;public class DistributeClient {private String connectString = "hadoop102:2181,hadoop103:2181,hadoop104:2181";private int sessionTimeout = 2000;private ZooKeeper zk;public static void main(String[] args) throws IOException, KeeperException, InterruptedException {DistributeClient client = new DistributeClient();// 1 獲取zk連接client.getConnect();// 2 監(jiān)聽/servers下面子節(jié)點的增加和刪除client.getServerList();// 3 業(yè)務(wù)邏輯(睡覺)client.business();}private void business() throws InterruptedException {Thread.sleep(Long.MAX_VALUE);}private void getServerList() throws KeeperException, InterruptedException {List<String> children = zk.getChildren("/servers", true);ArrayList<String> servers = new ArrayList<>();for (String child : children) {byte[] data = zk.getData("/servers/" + child, false, null);servers.add(new String(data));}// 打印System.out.println(servers);}private void getConnect() throws IOException {zk = new ZooKeeper(connectString, sessionTimeout, new Watcher() {@Overridepublic void process(WatchedEvent watchedEvent) {try {getServerList();} catch (KeeperException e) {e.printStackTrace();} catch (InterruptedException e) {e.printStackTrace();}}});} }

    4.4測試

    1)在 Linux 命令行上操作增加減少服務(wù)器
    (1)啟動 DistributeClient 客戶端

    (2)在hadoop102上zk的客戶端/servers 目錄上創(chuàng)建臨時帶序號節(jié)點

    [zk: localhost:2181(CONNECTED) 1] create -e -s /servers/hadoop102 "hadoop102" [zk: localhost:2181(CONNECTED) 2] create -e -s /servers/hadoop103 "hadoop103"

    (3)觀察 Idea 控制臺變化 [hadoop102, hadoop103]

    (4)執(zhí)行刪除操作

    [zk: localhost:2181(CONNECTED) 8] delete /servers/hadoop1020000000000

    (5)觀察 Idea 控制臺變化 [hadoop103]

    2)在 Idea 上操作增加減少服務(wù)器
    (1)啟動 DistributeClient 客戶端(如果已經(jīng)啟動過,不需要重啟)
    (2)啟動 DistributeServer 服務(wù)端
    ①點擊 Edit Configurations…

    ②在彈出的窗口中(Program arguments)輸入想啟動的主機,例如,hadoop102

    運行server

    查看客戶端,檢測到剛剛下線的hadoop102上線了

    更換參數(shù)hadoop104

    客戶端檢測

    5. 分布式鎖的概念

    5.1 分布式鎖概念

    分布式鎖:
    "進程 1"在使用該資源的時候,會先去獲得鎖,"進程 1"獲得鎖以后會對該資源保持獨占,這樣其他進程就無法訪問該資源,"進程 1"用完該資源以后就將鎖釋放掉,讓其他進程來獲得鎖,那么通過這個鎖機制,我們就能保證了分布式系統(tǒng)中多個進程能夠有序的訪問該臨界資源。那么我們把這個分布式環(huán)境下的這個鎖叫作分布式鎖。

    1)接收到請求后,在/locks節(jié)點下創(chuàng)建一個臨時順序節(jié)點
    客戶端訪問集群,創(chuàng)建臨時帶序號的節(jié)點,有n多個客戶端,在這個目錄下創(chuàng)建自己的節(jié)點
    2)判斷自己是不是當前節(jié)點下最小的節(jié)點:是,獲取到鎖;不是,對前一個節(jié)點進行監(jiān)聽
    3)獲取到鎖,處理完業(yè)務(wù)后,delete節(jié)點釋放鎖,然后下面的節(jié)點將收到通知,重復(fù)第二步判斷

    客戶端在目錄下創(chuàng)建臨時帶序號的節(jié)點,序號小的節(jié)點優(yōu)先拿到鎖進行相關(guān)業(yè)務(wù)的操作,其他節(jié)點如果發(fā)現(xiàn)自己不是序號最小的節(jié)點就監(jiān)聽前一個節(jié)點,前一個節(jié)點如果釋放,則立即獲得這把鎖

    5.2 原生 Zookeeper 實現(xiàn)分布式鎖案例

    1)分布式鎖實現(xiàn)

    package com.leokadia.case2;import org.apache.zookeeper.*; import org.apache.zookeeper.data.Stat;import java.io.IOException; import java.util.Collections; import java.util.List; import java.util.concurrent.CountDownLatch;public class DistributedLock {private final String connectString = "hadoop102:2181,hadoop103:2181,hadoop104:2181";private final int sessionTimeout = 2000;private final ZooKeeper zk;private CountDownLatch connectLatch = new CountDownLatch(1);private CountDownLatch waitLatch = new CountDownLatch(1);private String waitPath;private String currentMode;public DistributedLock() throws IOException, InterruptedException, KeeperException {// 獲取連接zk = new ZooKeeper(connectString, sessionTimeout, new Watcher() {@Overridepublic void process(WatchedEvent watchedEvent) {// connectLatch 如果連接上zk 可以釋放if (watchedEvent.getState() == Event.KeeperState.SyncConnected){connectLatch.countDown();}// waitLatch 需要釋放if (watchedEvent.getType()== Event.EventType.NodeDeleted && watchedEvent.getPath().equals(waitPath)){waitLatch.countDown();}}});// 等待zk正常連接后,往下走程序connectLatch.await();// 判斷根節(jié)點/locks是否存在Stat stat = zk.exists("/locks", false);if (stat == null) {// 創(chuàng)建一下根節(jié)點zk.create("/locks", "locks".getBytes(), ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.PERSISTENT);}}// 對zk加鎖 判斷是否是序號最小public void zklock() {// 創(chuàng)建對應(yīng)的臨時帶序號節(jié)點try {currentMode = zk.create("/locks/" + "seq-", null, ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL_SEQUENTIAL);// wait一小會, 讓結(jié)果更清晰一些Thread.sleep(10);// 判斷創(chuàng)建的節(jié)點是否是最小的序號節(jié)點,如果是獲取到鎖;如果不是,監(jiān)聽他序號前一個節(jié)點List<String> children = zk.getChildren("/locks", false);// 如果children 只有一個值,那就直接獲取鎖; 如果有多個節(jié)點,需要判斷,誰最小if (children.size() == 1) {return;} else {Collections.sort(children);// 獲取節(jié)點名稱 seq-00000000String thisNode = currentMode.substring("/locks/".length());// 通過seq-00000000獲取該節(jié)點在children集合的位置int index = children.indexOf(thisNode);// 判斷if (index == -1) {System.out.println("數(shù)據(jù)異常");} else if (index == 0) {// 就一個節(jié)點,可以獲取鎖了return;} else {// 需要監(jiān)聽 他前一個節(jié)點變化waitPath = "/locks/" + children.get(index - 1);zk.getData(waitPath,true,new Stat());// 等待監(jiān)聽waitLatch.await();return;}}} catch (KeeperException e) {e.printStackTrace();} catch (InterruptedException e) {e.printStackTrace();}}// 解鎖public void unZkLock() {// 刪除節(jié)點try {zk.delete(this.currentMode,-1);} catch (InterruptedException e) {e.printStackTrace();} catch (KeeperException e) {e.printStackTrace();}} }

    2)分布式鎖測試
    (1)創(chuàng)建兩個線程

    package com.leokadia.case2;import org.apache.zookeeper.KeeperException;import java.io.IOException;public class DistributedLockTest {public static void main(String[] args) throws InterruptedException, IOException, KeeperException {final DistributedLock lock1 = new DistributedLock();final DistributedLock lock2 = new DistributedLock();new Thread(new Runnable() {@Overridepublic void run() {try {lock1.zklock();System.out.println("線程1 啟動,獲取到鎖");Thread.sleep(5 * 1000);lock1.unZkLock();System.out.println("線程1 釋放鎖");} catch (InterruptedException e) {e.printStackTrace();}}}).start();new Thread(new Runnable() {@Overridepublic void run() {try {lock2.zklock();System.out.println("線程2 啟動,獲取到鎖");Thread.sleep(5 * 1000);lock2.unZkLock();System.out.println("線程2 釋放鎖");} catch (InterruptedException e) {e.printStackTrace();}}}).start();} }

    (2)觀察控制臺變化:

    也有可能線程2先獲取到鎖

    5.3 Curator 框架實現(xiàn)分布式鎖案例

    1)原生的 Java API 開發(fā)存在的問題
    (1)會話連接是異步的,需要自己去處理。比如使用 CountDownLatch
    (2)Watch 需要重復(fù)注冊,不然就不能生效
    (3)開發(fā)的復(fù)雜性還是比較高的
    (4)不支持多節(jié)點刪除和創(chuàng)建。需要自己去遞歸
    2)Curator 是一個專門解決分布式鎖的框架,解決了原生 JavaAPI 開發(fā)分布式遇到的問題。 詳情請查看官方文檔:https://curator.apache.org/index.html
    3)Curator 案例實操
    (1)添加依賴

    <dependency><groupId>org.apache.curator</groupId><artifactId>curator-framework</artifactId><version>4.3.0</version></dependency><dependency><groupId>org.apache.curator</groupId><artifactId>curator-recipes</artifactId><version>4.3.0</version></dependency><dependency><groupId>org.apache.curator</groupId><artifactId>curator-client</artifactId><version>4.3.0</version></dependency>

    (2)代碼實現(xiàn)

    package com.leokadia.case3;import org.apache.curator.framework.CuratorFramework; import org.apache.curator.framework.CuratorFrameworkFactory; import org.apache.curator.framework.recipes.locks.InterProcessMutex; import org.apache.curator.retry.ExponentialBackoffRetry;public class CuratorLockTest {public static void main(String[] args) {// 創(chuàng)建分布式鎖1InterProcessMutex lock1 = new InterProcessMutex(getCuratorFramework(), "/locks");// 創(chuàng)建分布式鎖2InterProcessMutex lock2 = new InterProcessMutex(getCuratorFramework(), "/locks");new Thread(new Runnable() {@Overridepublic void run() {try {lock1.acquire();System.out.println("線程1 獲取到鎖");lock1.acquire();System.out.println("線程1 再次獲取到鎖");Thread.sleep(5 * 1000);lock1.release();System.out.println("線程1 釋放鎖");lock1.release();System.out.println("線程1 再次釋放鎖");} catch (Exception e) {e.printStackTrace();}}}).start();new Thread(new Runnable() {@Overridepublic void run() {try {lock2.acquire();System.out.println("線程2 獲取到鎖");lock2.acquire();System.out.println("線程2 再次獲取到鎖");Thread.sleep(5 * 1000);lock2.release();System.out.println("線程2 釋放鎖");lock2.release();System.out.println("線程2 再次釋放鎖");} catch (Exception e) {e.printStackTrace();}}}).start();}private static CuratorFramework getCuratorFramework() {ExponentialBackoffRetry policy = new ExponentialBackoffRetry(3000, 3);CuratorFramework client = CuratorFrameworkFactory.builder().connectString("hadoop102:2181,hadoop103:2181,hadoop104:2181").connectionTimeoutMs(2000).sessionTimeoutMs(2000).retryPolicy(policy).build();// 啟動客戶端client.start();System.out.println("zookeeper 啟動成功");return client;} }

    (2)觀察控制臺變化:
    線程 1 獲取鎖
    線程 1 再次獲取鎖
    線程 1 釋放鎖
    線程 1 再次釋放鎖
    線程 2 獲取鎖
    線程 2 再次獲取鎖
    線程 2 釋放鎖
    線程 2 再次釋放鎖

    第4章 Zookeeper內(nèi)部原理

    這一部分對上述曾經(jīng)提到過的內(nèi)部原理進行總結(jié),并闡述Zookeeper的一些算法基礎(chǔ)
    6.1 節(jié)點類型
    持久(Persistent):客戶端和服務(wù)器端斷開連接后,創(chuàng)建的節(jié)點不刪除
    短暫(Ephemeral):客戶端和服務(wù)器端斷開連接后,創(chuàng)建的節(jié)點自己刪除

    (1)持久化目錄節(jié)點:客戶端與Zookeeper斷開連接后,該節(jié)點依舊存在
    (2)持久化順序編號目錄節(jié)點:客戶端與Zookeeper斷開連接后,該節(jié)點依舊存在,只是Zookeeper給該節(jié)點名稱進行順序編號
    (3)臨時目錄節(jié)點:客戶端與Zookeeper斷開連接后,該節(jié)點被刪除
    (4)臨時順序編號目錄節(jié)點:客戶端與 Zookeeper 斷開連接后,該節(jié)點被刪除,只是 Zookeeper給該節(jié)點名稱進行順序編號。
    說明:創(chuàng)建znode時設(shè)置順序標識,znode名稱后會附加一個值,順序號是一個單調(diào)遞增的計數(shù)器,由父節(jié)點維護
    注意:在分布式系統(tǒng)中,順序號可以被用于為所有的事件進行全局排序,這樣客戶端可以通過順序號推斷事件的順序

    6.2 Stat結(jié)構(gòu)體(節(jié)點的詳細數(shù)據(jù))
    (1)czxid-創(chuàng)建節(jié)點的事務(wù)zxid
    每次修改ZooKeeper狀態(tài)都會收到一個zxid形式的時間戳,也就是ZooKeeper事務(wù)ID。
    事務(wù)ID是ZooKeeper中所有修改總的次序。每個修改都有唯一的zxid,如果zxid1小于zxid2,那么zxid1在zxid2之前發(fā)生。
    (2)ctime - znode被創(chuàng)建的毫秒數(shù)(從1970年開始)
    (3)mzxid - znode最后更新的事務(wù)zxid
    (4)mtime - znode最后修改的毫秒數(shù)(從1970年開始)
    (5)pZxid-znode最后更新的子節(jié)點zxid
    (6)cversion - znode子節(jié)點變化號,znode子節(jié)點修改次數(shù)
    (7)dataversion - znode數(shù)據(jù)變化號
    (8)aclVersion - znode訪問控制列表的變化號
    (9)ephemeralOwner- 如果是臨時節(jié)點,這個是znode擁有者的session id。如果不是臨時節(jié)點則是0。
    (10)dataLength- znode的數(shù)據(jù)長度
    (11)numChildren - znode子節(jié)點數(shù)量
    6.3 監(jiān)聽器原理
    客戶端注冊監(jiān)聽它關(guān)心的目錄節(jié)點,當目錄節(jié)點發(fā)生變化(數(shù)據(jù)改變、節(jié)點刪除、子目 錄節(jié)點增加刪除)時,ZooKeeper 會通知客戶端。監(jiān)聽機制保證 ZooKeeper 保存的任何的數(shù) 據(jù)的任何改變都能快速的響應(yīng)到監(jiān)聽了該節(jié)點的應(yīng)用程序。
    1、監(jiān)聽原理詳解
    1)首先在要有一個main()線程
    2)在main線程中創(chuàng)建Zookeeper客戶端,這時就會創(chuàng)建兩個線程,一個負責網(wǎng)絡(luò)連接通信(connet),一個負責監(jiān)聽(listener)。
    3)通過connect線程將注冊的監(jiān)聽事件發(fā)送給Zookeeper。
    4)在Zookeeper的注冊監(jiān)聽器列表中將注冊的監(jiān)聽事件添加到列表中。
    5)Zookeeper監(jiān)聽到有數(shù)據(jù)或路徑變化,就會將這個消息發(fā)送給listener線程。
    6)listener線程內(nèi)部調(diào)用了process()方法。

    2、常見的監(jiān)聽
    1)監(jiān)聽節(jié)點數(shù)據(jù)的變化
    get path [watch]
    2)監(jiān)聽子節(jié)點增減的變化
    ls path [watch]
    6.4 選舉機制
    (1)半數(shù)機制:集群中半數(shù)以上機器存活,集群可用。所以Zookeeper適合安裝奇數(shù)臺服務(wù)器。
    (2)Zookeeper雖然在配置文件中并沒有指定Master和Slave。但是,Zookeeper工作時,是有一個節(jié)點為Leader,其他則為Follower,Leader是通過內(nèi)部的選舉機制臨時產(chǎn)生的。
    (3)以一個簡單的例子來說明整個選舉的過程。
    假設(shè)有五臺服務(wù)器組成的Zookeeper集群,它們的id從1-5,同時它們都是最新啟動的,也就是沒有歷史數(shù)據(jù),在存放數(shù)據(jù)量這一點上,都是一樣的。假設(shè)這些服務(wù)器依序啟動,來看看會發(fā)生什么。

    Zookeeper的選舉機制
    6.4.1 第一次啟動
    (1)服務(wù)器1啟動,發(fā)起一次選舉。服務(wù)器1投自己一票。此時服務(wù)器1票數(shù)一票,不夠半數(shù)以上(3票),選舉無法完成,服務(wù)器1狀態(tài)保持為LOOKING;

    (2)服務(wù)器2啟動,再發(fā)起一次選舉。服務(wù)器1和2分別投自己一票并交換選票信息:此時服務(wù)器1發(fā)現(xiàn)服務(wù)器2的myid比自己目前投票推舉的(服務(wù)器1)大,更改選票為推舉服務(wù)器2。此時服務(wù)器1票數(shù)0票,服務(wù)器2票數(shù)2票,沒有半數(shù)以上結(jié)果,選舉無法完成,服務(wù)器1,2狀態(tài)保持LOOKING

    (3)服務(wù)器3啟動,發(fā)起一次選舉。先投自己一票,此時服務(wù)器1和2發(fā)現(xiàn)服務(wù)器3的myid比自己目前投票推舉的(服務(wù)器2)大,都會更改選票為服務(wù)器3。此次投票結(jié)果:服務(wù)器1為0票,服務(wù)器2為0票,服務(wù)器3為3票。此時服務(wù)器3的票數(shù)已經(jīng)超過半數(shù),服務(wù)器3當選Leader。服務(wù)器1,2更改狀態(tài)為FOLLOWING,服務(wù)器3更改狀態(tài)為LEADING;

    (4)服務(wù)器4啟動,發(fā)起一次選舉。此時服務(wù)器1,2,3已經(jīng)不是LOOKING狀態(tài),不會更改選票信息。交換選票信息結(jié)果:服務(wù)器3為3票,服務(wù)器4為1票。此時服務(wù)器4服從多數(shù),更改選票信息為服務(wù)器3,并更改狀態(tài)為FOLLOWING;
    (5)服務(wù)器5啟動,同4一樣當小弟。

    總結(jié):先選自己,選完之后選票不夠,就會把選票投給myid大的節(jié)點
    一旦選舉成功后,其他節(jié)點自動變成follower狀態(tài),再次啟動的節(jié)點

    相關(guān)概念:
    SID:服務(wù)器ID。用來唯一標識一臺 ZooKeeper集群中的機器,每臺機器不能重復(fù),和myid一致。

    ZXID:事務(wù)ID。ZXID是一個事務(wù)ID,用來標識一次服務(wù)器狀態(tài)的變更。在某一時刻, 集群中的每臺機器的ZXID值不一定完全一致,這和ZooKeeper服務(wù)器對于客戶端“更新請求”的處理邏輯有關(guān)。

    Epoch:每個Leader任期的代號。沒有Leader時同一輪投票過程中的邏輯時鐘值是相同的。每投完一次票這個數(shù)據(jù)就會增加
    6.4.2 非第一次啟動
    (1)當ZooKeeper集群中的一臺服務(wù)器出現(xiàn)以下兩種情況之一時,就會開始進入Leader選舉:
    ? 服務(wù)器初始化啟動。
    ? 服務(wù)器運行期間無法和Leader保持連接。
    (2)而當一臺機器進入Leader選舉流程時,當前集群也可能會處于以下兩種狀態(tài):
    ? 集群中本來就已經(jīng)存在一個Leader。
    對于第一種已經(jīng)存在Leader的情況,機器試圖去選舉Leader時,會被告知當前服務(wù)器的Leader信息,對于該機器來說,僅僅需要和Leader機器建立連接,并進行狀態(tài)同步即可。

    ? 集群中確實不存在Leader。
    假設(shè)ZooKeeper由5臺服務(wù)器組成,SID分別為1、2、3、4、5,ZXID分別為8、8、8、7、7,并且此時SID為3的服務(wù)器是Leader。某一時刻, 3和5服務(wù)器出現(xiàn)故障,因此開始進行Leader選舉。

    選舉Leader規(guī)則: ①EPOCH大的直接勝出 ②EPOCH相同,事務(wù)id大的勝出 ③事務(wù)id相同,服務(wù)器id大的勝出
    6.5 寫數(shù)據(jù)流程

    6.5.1 寫流程之寫入請求直接發(fā)送給Leader節(jié)點

    寫請求給leader,leader將寫請求通知follower,follower寫完之后回復(fù)leader以ack,當超過半數(shù)的寫完了,就回復(fù)客戶端寫完了,其余沒寫完的繼續(xù)寫

    6.5.2 寫流程之寫入請求發(fā)送給follower節(jié)點

    follower沒有寫權(quán)限,將寫請求送給有權(quán)限的Leader,Leader先自己寫一份,寫完后,傳達寫命令給其他的Follower節(jié)點,讓他們寫,當超過半數(shù)的寫完了,就回復(fù)客戶端寫完了,其余沒寫完的繼續(xù)寫

    6.6 拜占庭將軍問題

    拜占庭將軍問題是一個協(xié)議問題,拜占庭帝國軍隊的將軍們必須全體一致的決定是否攻擊某一支敵軍。問題是這些將軍在地理上是分隔開來的,并且將 軍中存在叛徒。叛徒可以任意行動以達到以下目標:欺騙某些將軍采取進攻行動;促成一個不是所有將軍都同意的決定,如當將軍們不希望進攻時促成進攻 行動;或者迷惑某些將軍,使他們無法做出決定。如果叛徒達到了這些目的之一,則任何攻擊行動的結(jié)果都是注定要失敗的,只有完全達成一致的努力才能獲得勝利。
    這個問題實際上就是多臺服務(wù)器處理某一個一致性問題,解決分布式一致性的經(jīng)典算法之一是下文中的Paxos算法。

    6.4 Paxos算法
    Paxos算法是一種基于消息傳遞且具有高度容錯特性的一致性算法。
    分布式系統(tǒng)中的節(jié)點通信存在兩種模型:共享內(nèi)存(Shared memory)和消息傳遞(Messages passing)。基于消息傳遞通信模型的分布式系統(tǒng),不可避免的會發(fā)生以下錯誤:進程可能會慢、被殺死或者重啟,消息可能會延遲、丟失、重復(fù),在基礎(chǔ) Paxos 場景中,先不考慮可能出現(xiàn)消息篡改即拜占庭錯誤的情況。Paxos 算法解決的問題是在一個可能發(fā)生上述異常的分布式系統(tǒng)中如何就某個值達成一致,保證不論發(fā)生以上任何異常,都不會破壞決議的一致性。

    Paxos算法描述:
    ? 在一個Paxos系統(tǒng)中,首先將所有節(jié)點劃分為Proposer(提議者),Acceptor(接受者),和 Learner(學(xué)習者)。(注意:每個節(jié)點都可以身兼數(shù)職)。

    一個完整的Paxos算法流程分為三個階段:
    ? Prepare準備階段
    ? Proposer向多個Acceptor發(fā)出Propose請求Promise(承諾)
    ? Acceptor針對收到的Propose請求進行Promise(承諾)
    ? Accept接受階段
    ? Proposer收到多數(shù)Acceptor承諾的Promise后,向Acceptor發(fā)出Propose請求
    ? Acceptor針對收到的Propose請求進行Accept處理
    ? Learn學(xué)習階段:Proposer將形成的決議發(fā)送給所有Learners

    Paxos算法流程中的每條消息描述如下:

    (1)Prepare: Proposer生成全局唯一且遞增的Proposal ID (可使用時間戳加Server ID),向所有Acceptors發(fā)送Prepare請求,這里無需攜帶提案內(nèi)容,只攜帶Proposal ID即可。
    (2)Promise: Acceptors收到Prepare請求后,做出“兩個承諾,一個應(yīng)答”。
    兩個承諾:
    ? 不再接受Proposal ID小于等于(注意:這里是<= )當前請求的Prepare請求。
    ? 不再接受Proposal ID小于(注意:這里是< )當前請求的Propose請求。
    一個應(yīng)答:
    ? 不違背以前做出的承諾下,回復(fù)已經(jīng)Accept過的提案中Proposal ID最大的那個提案的Value和Proposal ID,沒有則返回空值。
    (3)Propose: Proposer 收到多數(shù)Acceptors的Promise應(yīng)答后,從應(yīng)答中選擇Proposal ID最大的提案的Value,作為本次要發(fā)起的提案。如果所有應(yīng)答的提案Value均為空值,則可以自己隨意決定提案Value。然后攜帶當前Proposal ID,向所有Acceptors發(fā)送Propose請求。
    (4)Accept: Acceptor收到Propose請求后,在不違背自己之前做出的承諾下,接受并持久化當前Proposal ID和提案Value。
    (5)Learn: Proposer收到多數(shù)Acceptors的Accept后,決議形成,將形成的決議發(fā)送給所有Learners。
    下面我們針對上述描述做三種情況的推演舉例:為了簡化流程,我們這里不設(shè)置Learner。

    Paxos算法缺陷:在網(wǎng)絡(luò)復(fù)雜的情況下,一個應(yīng)用Paxos算法的分布式系統(tǒng),可能很久無法收斂,甚至陷入活鎖的情況。造成這種情況的原因是系統(tǒng)中有一個以上的Proposer,多個Proposers相互爭奪Acceptors,造成遲遲無法達成一致的情況。針對這種情況,一種改進的Paxos算法被提出:從系統(tǒng)中選出一個節(jié)點作為Leader,只有Leader能夠發(fā)起提案。這樣,一次Paxos流程中只有一個Proposer,不會出現(xiàn)活鎖的情況,此時只會出現(xiàn)例子中第一種情況。

    總結(jié)

    以上是生活随笔為你收集整理的超全zookeeper知识点与实战的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。

    如果覺得生活随笔網(wǎng)站內(nèi)容還不錯,歡迎將生活随笔推薦給好友。

    欧美日韩国产一区二区三区 | 性色av免费在线观看 | 日韩资源在线 | 一级片视频免费观看 | 一区二区三区在线免费 | 久久桃花网 | 国产高清不卡 | 久久一区二区免费视频 | 亚州精品天堂中文字幕 | 婷婷爱五月天 | 免费性网站 | 色吊丝在线永久观看最新版本 | 色爱区综合激月婷婷 | 全黄网站 | 国产a级免费 | 国产精品99久久久久久小说 | 亚洲激情 欧美激情 | 天天色天天搞 | 精品久久电影 | 日b黄色片 | 超碰97在线人人 | 亚洲一区二区三区在线看 | 在线观看视频一区二区三区 | 亚洲精品国产品国语在线 | 亚洲精品国产精品久久99 | 成年人免费电影在线观看 | 久久精品—区二区三区 | 亚洲一区精品二人人爽久久 | 操操操人人 | 日韩剧| 三上悠亚在线免费 | 探花视频在线版播放免费观看 | 色在线最新| 免费精品在线观看 | 精品一二三四五区 | 碰超人人 | 日韩中文字幕91 | 97在线看| 一区二区影院 | 九色自拍视频 | 91亚洲永久精品 | 久久久久久久久久久电影 | 在线国产福利 | 美女性爽视频国产免费app | 亚洲精品国产欧美在线观看 | 美女网站视频免费黄 | 天天综合入口 | 国产理论在线 | www99精品 | 亚洲成人午夜在线 | jizz18欧美18| 免费久久久久久 | 手机在线视频福利 | 中文字幕色站 | 国产另类av| 日日麻批40分钟视频免费观看 | 三上悠亚一区二区在线观看 | 亚洲精品三级 | 久久中国精品 | 日韩精品极品视频 | 国产精品美女久久久久久2018 | 国产91在线看 | 国产 欧美 日产久久 | 黄a网站| 久久视频在线观看 | 亚洲黄色精品 | 国产成人一级电影 | 天天操操 | 国产99久久久精品视频 | 天天爽天天做 | 天天爽天天碰狠狠添 | 色狠狠综合天天综合综合 | 色综合久久悠悠 | 国产成人精品av在线 | 黄色91在线 | 婷婷久久网 | 黄色毛片网站在线观看 | 日韩久久精品一区二区 | 日韩欧美高清一区二区三区 | 国产精品一区久久久久 | 成人免费观看大片 | 日韩在线观看视频一区二区三区 | 人人舔人人插 | 手机成人在线 | 国产99久久久久久免费看 | 亚洲美女视频在线 | 综合网色 | 91精品在线免费 | 亚洲精品国产欧美在线观看 | av在线免费不卡 | 久久99九九99精品 | 91精品免费在线 | 国产午夜精品一区二区三区欧美 | 免费在线观看91 | 美女久久 | 色噜噜狠狠狠狠色综合 | 国产精品乱码久久久久 | 一级黄色电影网站 | a成人v在线 | 国产精品青青 | 插插插色综合 | 女人高潮特级毛片 | 成人av电影在线 | 伊人在线视频 | 黄色小说在线免费观看 | 日操操 | 久久精彩| 国产偷国产偷亚洲清高 | 久久精品韩国 | 国产99亚洲 | 精品一区二区三区香蕉蜜桃 | 亚洲成人欧美 | 91福利试看 | 国产一区网 | 五月婷婷香蕉 | 成人一级片免费看 | 狠狠色伊人亚洲综合网站野外 | 久久国精品| 一区二区三区四区五区六区 | 人人爽爽人人 | 色94色欧美 | a久久久久 | 欧美伦理一区二区 | 人人爱在线视频 | 日韩欧美一区二区在线观看 | 中国一级片在线 | 27xxoo无遮挡动态视频 | 五月天综合激情 | 色播五月婷婷 | 色网站视频 | 日韩高清一二三区 | 国产成人av在线 | 国产精品久久久久久久7电影 | 久久久久久国产精品久久 | 天天综合网久久 | 777久久久| 91亚洲精品视频 | www.狠狠色 | 国产性xxxx | 操操操日日日干干干 | 国产在线观 | 日韩免费视频一区二区 | 久久看免费视频 | 免费观看一区二区 | 日韩特黄av| 亚洲天堂网在线观看视频 | 精品一区二区三区电影 | 国产原厂视频在线观看 | 伊人天天操| 午夜精品一区二区三区免费视频 | 日韩精品一区二区三区免费视频观看 | 亚洲欧美视频一区二区三区 | 久久五月婷婷综合 | 天天躁日日躁狠狠躁av麻豆 | 日韩免费一区二区在线观看 | 久久99久国产精品黄毛片入口 | 日韩在线观看一区二区三区 | 国产精品9区 | 五月婷婷开心 | 91在线看网站| 丁香六月久久综合狠狠色 | 九九国产精品视频 | 激情婷婷在线观看 | 成人免费 在线播放 | 久久久在线视频 | www欧美日韩 | 色久天| 国产成人久久77777精品 | 91视频高清| 成片免费观看视频 | 亚洲日本韩国一区二区 | 久久精品国产久精国产 | 国产精品va在线播放 | 欧美在线视频第一页 | 日本中文在线观看 | 国产在线色视频 | 久久久久久久久久久久久久电影 | 三级av黄色 | 亚洲欧美日韩一二三区 | 婷婷丁香自拍 | 亚洲综合婷婷 | 国产精品永久在线观看 | 成人毛片一区 | 日韩在线观看你懂得 | 国产精品美女毛片真酒店 | 久久久福利视频 | 中文在线免费一区三区 | 色综合久久久久久中文网 | 91tv国产成人福利 | 91视频链接| 国产精品自产拍在线观看网站 | 亚洲欧美婷婷六月色综合 | 国产精品免费一区二区 | 成人免费一级 | 日韩欧美高清在线 | 亚洲年轻女教师毛茸茸 | 国产精品av免费在线观看 | 91热精品 | 婷婷99| 天天天干天天天操 | 久久久伊人网 | 亚洲一级电影 | 超碰人人草| .精品久久久麻豆国产精品 亚洲va欧美 | 9999在线视频 | 日日干视频 | 亚洲天堂自拍视频 | 久久精品国产99国产 | 免费看的av片 | 国产精品视频全国免费观看 | 欧美吞精 | 天天综合网 天天 | 激情av资源网 | 国产精品久久久久久一二三四五 | 精品国产亚洲一区二区麻豆 | av免费在线观看1 | 伊人成人激情 | 欧美一二三在线 | 亚洲第一伊人 | 国产最新福利 | 91porny九色在线播放 | 久久久三级视频 | 美女久久久久久久 | 久久久国产日韩 | 麻豆视频成人 | 欧美成人区 | 久久视频在线免费观看 | 国产丝袜在线 | 91福利影院在线观看 | 91精品小视频 | 97操操操 | 中文字幕丰满人伦在线 | 日韩免费在线观看 | 在线国产一区二区三区 | 91麻豆精品一区二区三区 | 青青河边草免费直播 | 婷婷六月丁| 91精品国产乱码在线观看 | 日韩草比 | 日韩精品2区 | 日韩高清久久 | 久久无码精品一区二区三区 | 国产女教师精品久久av | 国内精品99 | 欧美日韩调教 | 4438全国亚洲精品在线观看视频 | 精品福利在线观看 | 午夜少妇av | 午夜影院一区 | 欧美日韩在线精品 | 国内精品在线观看视频 | 天天色天天艹 | 国产精品永久久久久久久久久 | 永久精品视频 | 日韩精品不卡在线 | 九色91av| 欧美污污视频 | 日韩中文字幕国产 | 91av免费在线观看 | 人人玩人人添人人 | 国产视频日韩视频欧美视频 | 在线一区av | 日韩激情小视频 | 国产综合精品久久 | 又大又硬又黄又爽视频在线观看 | 99久久久久成人国产免费 | 婷婷国产在线观看 | 深夜国产福利 | 99久久99久久精品免费 | 天堂久久电影网 | 精品久久久久免费极品大片 | 91精品在线看 | 日韩大片在线免费观看 | 中文字幕在线电影 | 精品国产一区二区三区久久久蜜月 | 在线播放国产精品 | 中文字幕综合在线 | 日韩欧美在线国产 | 国产视频在线免费观看 | 亚洲在线观看av | 久草在线视频国产 | 人人干狠狠操 | 国产破处在线视频 | 亚洲免费激情 | 91中文字幕网 | 天天天操天天天干 | 午夜91视频 | 国产一级性生活 | 中文字幕一区二区三区在线视频 | 综合久久婷婷 | 国产天天综合 | 最新日韩在线 | 人人玩人人添人人 | 麻豆国产视频 | 黄色成人av在线 | 人人揉人人揉人人揉人人揉97 | 国产无遮挡猛进猛出免费软件 | 狠狠色狠狠色综合日日92 | 免费色视频网站 | 中文字幕在线观看1 | 国产精品婷婷 | 中文乱码视频在线观看 | 国产69精品久久99的直播节目 | 香蕉影院在线播放 | 国内成人精品视频 | 中文字幕综合在线 | 婷婷 中文字幕 | 天天摸天天弄 | 国产精品久久久一区二区三区网站 | 亚洲五月综合 | 亚州日韩中文字幕 | 在线播放国产一区二区三区 | 在线观看91精品国产网站 | 欧美日韩三区二区 | 91精品视频播放 | 久久极品 | 午夜视频黄 | 国产中文字幕视频 | 久久视频在线观看中文字幕 | 精品久久一区二区 | 91爱爱电影 | 久久久久综合精品福利啪啪 | 国产一区二区三区在线免费观看 | 婷婷六月综合亚洲 | 亚洲精品玖玖玖av在线看 | 婷婷六月综合亚洲 | 婷婷在线观看视频 | 国产在线不卡视频 | 精品欧美一区二区三区久久久 | 国产xx视频 | av在线网站大全 | 国产精品久久久久久久久久三级 | 国产中文字幕在线观看 | 中文字幕在线免费看 | 国产麻豆视频网站 | 麻豆国产网站 | 亚洲九九九在线观看 | 蜜桃av人人夜夜澡人人爽 | 一区二区三区日韩视频在线观看 | 国产午夜精品久久久久久久久久 | 色偷偷网站视频 | 一区精品在线 | 日韩夜夜爽 | 97超碰成人 | 黄色网址国产 | 97超碰人人模人人人爽人人爱 | 在线播放第一页 | 国产xxxx| 久久精品国产久精国产 | 色资源网在线观看 | 成人福利av | 久香蕉| 免费欧美高清视频 | 国产精品高潮呻吟久久久久 | www.黄色片.com | 99视频在线看 | 成年人在线观看免费视频 | 六月丁香综合 | 超碰在线天天 | 美女天天操 | 欧美性色黄大片在线观看 | 日韩视频一区二区在线观看 | 国产 成人 久久 | 天天干天天射天天爽 | 91麻豆高清视频 | 亚洲精品乱码久久久久久9色 | 六月色播 | www..com毛片| 日韩久久一区 | 欧美精品首页 | 亚洲精品在 | 国产精品com | 国产精品美乳一区二区免费 | 天天弄天天干 | 精品久久毛片 | 国产在线播放一区二区三区 | 亚洲电影影音先锋 | 国产高清第一页 | 狠狠狠狠狠狠 | www在线观看国产 | 国产高清视频色在线www | 国产天天综合 | 国产精品美乳一区二区免费 | 色999五月色 | 香蕉在线观看 | 成人性生交视频 | 亚洲视频第一页 | 国偷自产视频一区二区久 | 一区在线观看 | 在线网站黄 | 在线观看不卡视频 | 日韩国产欧美在线视频 | 国产手机视频 | av网在线观看 | 国产伦理久久精品久久久久_ | 日日夜精品 | 免费视频 你懂的 | 国产五码一区 | 最新av电影网站 | 欧美a级在线免费观看 | 国产精品美女久久久久久久 | 日韩特级黄色片 | 国产精品18毛片一区二区 | www.色婷婷.com | 狠狠色2019综合网 | 国产精品久久精品国产 | 日韩专区中文字幕 | 99超碰在线观看 | 精品视频国产 | 91热爆在线观看 | 操久久免费视频 | 亚洲狠狠 | 婷婷九月激情 | 96看片| 中文字幕欧美日韩va免费视频 | www激情网| 午夜精品视频免费在线观看 | 成人国产精品 | 日韩久久午夜一级啪啪 | 亚洲91中文字幕无线码三区 | 国际精品久久久 | 亚洲精品福利在线观看 | 一级片视频在线 | 亚洲禁18久人片 | 精品欧美在线视频 | 中文字幕不卡在线88 | 国产精品久久久久久久久费观看 | 日本精品一区二区 | 天天综合在线观看 | 黄色毛片在线 | 亚洲成人资源 | 91一区在线观看 | 成人av手机在线 | 99精品在线免费视频 | 欧美日韩久久一区 | 成人在线一区二区三区 | 天天干亚洲 | www.天天色.com | 91精品国产一区 | 欧美 日韩 国产 中文字幕 | 在线中文字幕视频 | www.超碰 | 日本一区二区免费在线观看 | 亚洲国产网站 | 免费看v片网站 | 亚洲黄色成人av | 久久精品123| 久久激情视频 久久 | 欧美专区日韩专区 | 蜜桃传媒一区二区 | 去看片 | 91九色在线播放 | 91看片淫黄大片一级在线观看 | 少妇自拍av| 国产精品亚洲片在线播放 | 精品国产一区在线观看 | 中文字幕成人在线观看 | 狠狠色丁香婷婷综合橹88 | 91免费观看| 久久久久久久久久久免费 | 免费av网址在线观看 | 亚洲国产精品小视频 | 美女黄视频免费 | 国产手机免费视频 | 国产剧情一区在线 | 免费观看性生交 | 婷婷成人亚洲综合国产xv88 | 一本色道久久综合亚洲二区三区 | 成人高清在线 | 狠狠干中文字幕 | 色免费在线 | 91精品国产综合久久福利 | 国产精品麻豆免费版 | 午夜精品一区二区三区四区 | 日韩av成人在线观看 | 日韩无在线 | 人人澡人人爱 | 日韩二区三区在线 | 国产黑丝一区二区三区 | 91网页版在线观看 | 亚洲精品国产片 | 久久婷婷综合激情 | 国产精品12| 精品色综合 | 亚洲色图美腿丝袜 | 伊人影院av | av黄网站 | 国产韩国精品一区二区三区 | 婷婷六月中文字幕 | 综合色中文 | 欧美ⅹxxxxxx | 狠狠久久| 日本在线观看一区 | 国产精品久久久久影视 | 国产一区二区在线精品 | 国产精品私人影院 | 亚洲精品高清一区二区三区四区 | 婷婷六月网 | 日韩av中文字幕在线 | 日韩成人精品一区二区三区 | 玖草影院 | 日本久久免费电影 | 激情五月婷婷丁香 | 麻豆一区在线观看 | 亚洲三级视频 | 91黄色视屏 | 国产成人精品一区二区三区在线观看 | 日日操天天爽 | 久久草草影视免费网 | 黄色免费观看网址 | 九七在线视频 | 91精选| 草免费视频 | 欧美一级性生活片 | 这里只有精品视频在线 | 午夜精品电影一区二区在线 | 成人中文字幕在线 | 丁香视频五月 | 99国产高清 | 日韩高清在线观看 | 久久影院中文字幕 | 国产精品久久久久久五月尺 | 在线观看国产区 | 亚洲欧美日韩一级 | 91香蕉视频| 精品99在线 | 在线观看视频你懂的 | 日韩精品电影在线播放 | 国产小视频在线看 | 精品国产乱码久久久久久天美 | 成人羞羞视频在线观看免费 | 色综合久久五月天 | 国产高清在线视频 | 亚洲国产免费看 | 少妇性色午夜淫片aaaze | 中文字幕在线色 | 日韩色中色 | 精品嫩模福利一区二区蜜臀 | 九九热视频在线播放 | 中文字幕国产在线 | 免费观看xxxx9999片 | 美女亚洲精品 | 91大神在线看 | 亚洲乱亚洲乱亚洲 | www夜夜| 精品在线你懂的 | 中文字幕中文字幕在线中文字幕三区 | 中文字幕成人在线 | 色综合色综合色综合 | 一区二区三区电影 | 婷婷综合在线 | 国产69熟 | 97日日碰人人模人人澡分享吧 | 久久不射电影网 | 成人免费观看在线视频 | 亚洲精品18p| 三级黄色大片在线观看 | 99久久久久久 | 国产精品久久久久久久久久尿 | 婷婷在线网| 夜夜夜夜操 | 三级av免费看 | 亚洲最大成人网4388xx | 一区二区三高清 | 欧美日韩中文另类 | 婷婷色狠狠 | 欧美色婷婷 | 国产精品久久久久一区二区三区共 | 99视频精品视频高清免费 | av超碰在线| 亚洲天堂在线观看完整版 | 99精品视频观看 | 欧美一级片免费播放 | 三级黄色在线观看 | 色美女在线 | 91精品欧美一区二区三区 | 久久久精品欧美一区二区免费 | 99久久99| 国产精品理论片在线观看 | 欧美久久久久久久久久久久久 | 99免费在线视频 | 91视频3p| 天天曰夜夜操 | 成人av av在线 | 麻花豆传媒mv在线观看 | 久草国产在线观看 | 久久国产剧场电影 | 久久伦理 | 成人久久精品 | 在线观看蜜桃视频 | aⅴ精品av导航| 婷婷综合电影 | 97在线观看免费高清 | 91av视频在线免费观看 | 久久免费毛片 | 四虎5151久久欧美毛片 | 国产视频1区2区3区 久久夜视频 | 久久亚洲视频 | 国产极品尤物在线 | 国产亚洲精品美女久久 | 国产免费黄视频在线观看 | 男女视频91 | 久久综合色综合88 | 国产亚洲精品v | 久久国产精品视频 | 欧美日韩伦理一区 | 亚洲 欧美日韩 国产 中文 | 操操操人人人 | 在线亚洲高清视频 | 又大又硬又黄又爽视频在线观看 | 久久国产精品99久久久久久老狼 | 色综合天天狠天天透天天伊人 | 国产69精品久久99不卡的观看体验 | 91插插视频| 中文字幕久久精品一区 | 国产精品久久免费看 | 国产精品美女 | 日本护士三级少妇三级999 | 婷婷伊人综合亚洲综合网 | 毛片网站观看 | 免费黄色在线网址 | 久久精品成人 | 日韩一二三区不卡 | 国产精品久久久久久久久久新婚 | 国产精品综合久久久 | 午夜免费视频网站 | 免费又黄又爽的视频 | 一区在线观看视频 | 久久免费99精品久久久久久 | 久久官网 | 国内精品在线观看视频 | 亚洲精品在线一区二区三区 | 久久精品久久久久电影 | 综合网天天 | 97色在线观看免费视频 | 日韩高清在线一区二区 | 一本一本久久aa综合精品 | 欧美a级成人淫片免费看 | av中文在线观看 | 天天干天天射天天操 | 亚洲第一区精品 | 免费看污网站 | 国产精品扒开做爽爽的视频 | 五月天六月婷 | 国产一级免费视频 | 午夜av免费观看 | 最近最新中文字幕视频 | 久久激情综合 | 欧美日韩高清在线一区 | 97成人精品区在线播放 | 日韩欧美黄色网址 | 日韩国产精品毛片 | 三级av免费观看 | 在线观看免费观看在线91 | 成年人黄色大全 | 性色av一区二区三区在线观看 | 日本久久综合网 | 国产精品二区在线观看 | 性色av一区二区三区在线观看 | 欧美日韩二三区 | 久久黄色片子 | 九七视频在线观看 | 91插插影库 | 蜜臀av夜夜澡人人爽人人 | 在线视频观看亚洲 | 美女精品久久 | 激情中文字幕 | 天天插天天干 | 粉嫩av一区二区三区四区 | 久久国内视频 | 国产在线播放不卡 | 国产91精品看黄网站在线观看动漫 | 韩国精品一区二区三区六区色诱 | 亚洲高清视频一区二区三区 | 91精品国产乱码 | 欧美日韩免费看 | www.亚洲视频.com | 99久在线精品99re8热视频 | 中文字幕在线观看1 | 久久精品一区二区三区国产主播 | 国产 精品 资源 | 国产一级不卡毛片 | 免费看黄的视频 | 精品亚洲视频在线观看 | 激情在线网址 | 日韩欧美在线综合网 | 激情五月伊人 | 黄色资源在线观看 | 日韩精品免费在线 | 成人影片在线播放 | 在线观看 国产 | 视频一区在线免费观看 | 99在线视频免费观看 | 国产一级二级在线 | 国产成人精品福利 | 久久影院亚洲 | 国产小视频91 | 天天操天天射天天插 | 日韩精品一区二区在线观看 | 国产精品小视频网站 | 国产在线观看不卡 | 美女视频黄免费网站 | 91精品在线播放 | 午夜精品视频一区二区三区在线看 | 91精品啪在线观看国产81旧版 | 日日夜夜精品 | 国产中文a| 欧美在线视频日韩 | 日韩电影中文,亚洲精品乱码 | 国产午夜精品av一区二区 | 欧美性免费 | 狠狠狠狠狠色综合 | 亚洲精品美女视频 | 日本女人在线观看 | 亚洲综合激情网 | 日韩激情在线视频 | 日韩在线精品视频 | 国产成人91 | 一区二区精品国产 | 国产精品第54页 | 日韩免费在线观看 | 日韩在线视频精品 | 在线视频婷婷 | 99视频精品 | 国产成人av电影在线观看 | 人人看人人做人人澡 | 91在线蜜桃臀 | 午夜黄色 | 日日干夜夜骑 | a级一a一级在线观看 | 精品在线观看一区二区三区 | 综合在线观看色 | 欧美韩日在线 | 欧美日韩中文在线观看 | 国产精品麻 | 美女久久久久 | 久久乱码卡一卡2卡三卡四 五月婷婷久 | 欧美性极品xxxx娇小 | 叶爱av在线 | 丁香九月婷婷 | 国产精品久久久久久久久毛片 | 五月开心综合 | 99国产视频在线 | 欧美激情精品久久久久久 | 丝袜少妇在线 | 亚洲三级av | 日韩精品久久久久久中文字幕8 | 国产成人免费观看 | 国产精品资源网 | 欧美老人xxxx18 | 久久久久国产精品一区 | 午夜av在线播放 | 精品国产电影一区二区 | 天天干,天天操 | 国产视频二区三区 | 毛片在线播放网址 | 色av男人的天堂免费在线 | 久久国产一区二区 | 精品自拍网 | www国产一区| 国产美女网站视频 | 亚洲日本在线视频观看 | 97精品国产97久久久久久粉红 | 69精品在线观看 | 午夜久操 | 五月网婷婷| 99久久久国产精品免费99 | 正在播放一区 | 亚洲狠狠操 | 亚洲黄色三级 | 美女免费网视频 | 在线激情小视频 | 日本久久成人 | 国产一级片在线播放 | 国产成人免费观看久久久 | 在线观看爱爱视频 | 伊人久久av | 成人午夜电影在线观看 | 精品久久久一区二区 | 国产自在线 | 日韩成人精品一区二区三区 | 四虎影视欧美 | 久久精品www人人爽人人 | 久久婷婷五月综合色丁香 | 日b视频在线观看网址 | 91精品国产电影 | 99视频播放 | 国产精品一区二区免费视频 | www.com操| 91免费版在线 | 精品久久久久久久久久久久久久久久久久 | 99国产精品| 九九免费在线观看视频 | 狠狠色丁香婷婷综合久久片 | 婷婷综合伊人 | 成人午夜片av在线看 | 久久久久久久亚洲精品 | 国产精品美女久久久久aⅴ 干干夜夜 | 国产精品久久99精品毛片三a | 免费网站在线观看成人 | 精品国产一区二区三区不卡 | 国产成人资源 | 狠色狠色综合久久 | 久久免费国产视频 | 91传媒在线播放 | 亚洲精品欧美成人 | 亚洲精品国产精品乱码在线观看 | 91大神dom调教在线观看 | 干干操操 | 91精品国产九九九久久久亚洲 | 99精品视频精品精品视频 | 国产午夜精品一区二区三区在线观看 | 欧美黄色特级片 | 亚洲精品小区久久久久久 | 在线观看一区 | 九九在线精品视频 | 久久国产成人午夜av影院宅 | 九九久久婷婷 | 久久艹在线观看 | 91视频88av | 久久婷婷激情 | 国产99久久久国产 | 国产精品自拍av | 97在线观看免费观看高清 | 成人宗合网 | 日本精品一 | 绯色av一区 | 天天干天天干天天干天天干天天干天天干 | 五月开心激情网 | 国产剧情一区二区 | 日韩在线观看第一页 | 日韩有码专区 | 成人av手机在线 | 免费av在线网站 | 国产精品夜夜夜一区二区三区尤 | 在线观看日韩中文字幕 | 久青草影院 | 国产精品久久久久久久久久久免费看 | 日韩精品一区二区三区电影 | 午夜美女网站 | 久久久久久久久久免费视频 | 91在线观看视频网站 | 国产免费又粗又猛又爽 | 精品国内自产拍在线观看视频 | 久久网页 | 免费视频色 | 黄色综合 | 久草视频免费在线观看 | 成 人 黄 色 视频 免费观看 | 麻豆视频观看 | 免费精品人在线二线三线 | 日韩高清无线码2023 | 成人福利在线观看 | 国产在线观看中文字幕 | 国产精品视频免费看 | 亚洲激精日韩激精欧美精品 | 亚洲老妇xxxxxx| 日韩有码在线播放 | 欧美国产日韩在线视频 | 玖玖玖国产精品 | 奇米网444| 涩av在线 | 国产精品久久久久久一区二区 | 欧美视频www| 九九交易行官网 | 国产精品久久久久久一区二区 | 久久美女视频 | 在线视频婷婷 | 色鬼综合网 | 久久国精品 | 欧美日韩免费在线视频 | 九色精品在线 | 91精品视频免费 | 欧美另类高清 | 久久,天天综合 | 中文字幕在线播放日韩 | 国产亚洲精品久久久久久移动网络 | 日韩三级精品 | 欧美精品久久久久性色 | 黄色av成人在线观看 | 天天操狠狠操网站 | 一级片色播影院 | 久久草在线视频国产 | 久久精品草| 久久久免费毛片 | 99精品视频网 | 在线视频黄 | 97免费 | 一二三区在线 | 手机在线看a | 99国产视频 | 久久久久久久久久久高潮一区二区 | 美女视频久久久 | 91亚洲精品久久久蜜桃 | 成年人免费在线 | 免费看片网站91 | 中文字幕色综合网 | av在线永久免费观看 | 久草电影在线观看 | 欧美9999 | 久久99国产综合精品免费 | 久久a国产 | 亚洲伊人av | 国产一区二区在线精品 | 国产在线视频不卡 | 亚洲一区二区视频在线播放 | 中文资源在线观看 | 天堂在线一区 | 色大片免费看 | 黄色在线观看网站 | 伊人亚洲精品 | 成人黄色在线 | 免费看成人片 | 久久草在线精品 | 激情婷婷色 | 久久精品黄 | www.狠狠色.com | 99精品视频免费 | 韩国三级av在线 | 97在线观看 | 亚洲va综合va国产va中文 | 国产视频精品在线 | 国产91欧美 | 国产手机视频 | 欧美日本三级 | 久久99久久99精品免观看软件 | a一片一级| 日韩久久精品一区二区三区下载 | 国产精品女 | 99色资源 | 最近中文字幕免费观看 | 国产原厂视频在线观看 | 中文字幕在线一区观看 | 婷婷天天色 | 久99久在线视频 | 成人三级网站在线观看 | 综合国产视频 | 国产精品综合久久 | 国产高清一 | 99热网站| www.99热精品 | 色99色| 日韩大片在线看 | 日韩精品亚洲专区在线观看 | 免费成人黄色片 | 欧美精品一区二区三区四区在线 | www.天天综合 | 天天射天天色天天干 | 美女视频是黄的免费观看 | 狠狠狠狠狠操 | 97精品久久人人爽人人爽 | 草久久影院 | 免费日韩一区二区三区 | 波多野结衣在线视频免费观看 | 日韩高清在线一区 | 国产这里只有精品 | 中文字幕第一页在线播放 | 人人爱天天操 | 又黄又爽又湿又无遮挡的在线视频 | 婷婷视频在线播放 | 欧美夫妻生活视频 | 成人av免费在线 | 免费 在线 中文 日本 | 国产精品一区二区久久国产 | 日韩精品综合在线 | 亚洲天天综合 | 美女网站黄在线观看 | 91九色视频| 国产精品精品久久久久久 | 久久久久久久久久久久久久电影 | 久久成人免费 | 国产免费人成xvideos视频 | 久久怡红院| 在线色吧 | 97在线观看免费视频 | 丁香五婷 | 免费av网站在线看 | 免费色av| 天天人人综合 | 五月婷婷在线播放 | 亚洲综合欧美激情 | 国产午夜精品理论片在线 | 五月婷婷综| 亚洲狠狠干 | 一级黄色片在线免费观看 | 国产精品夜夜夜一区二区三区尤 | 激情欧美一区二区三区免费看 | 日韩电影黄色 | 99国产在线视频 | 99综合影院在线 | 日本三级大片 | 九九九在线| 肉色欧美久久久久久久免费看 | 人人讲下载 | 色婷婷六月天 | 91色一区二区三区 | 黄网站免费久久 | 人人添人人澡人人澡人人人爽 |