日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當(dāng)前位置: 首頁(yè) > 运维知识 > 数据库 >内容正文

数据库

Redis主从、哨兵、 Cluster集群一锅端!

發(fā)布時(shí)間:2023/12/20 数据库 41 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Redis主从、哨兵、 Cluster集群一锅端! 小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.

天跟小伙伴們一起學(xué)習(xí)Redis的主從、哨兵、Redis Cluster集群。

  • Redis主從

  • Redis哨兵

  • Redis Cluster集群

1. Redis 主從

面試官經(jīng)常會(huì)問到Redis的高可用。Redis高可用回答包括兩個(gè)層面,一個(gè)就是數(shù)據(jù)不能丟失,或者說盡量減少丟失;另外一個(gè)就是保證Redis服務(wù)不中斷

  • 對(duì)于盡量減少數(shù)據(jù)丟失,可以通過AOF和RDB保證。

  • 對(duì)于保證服務(wù)不中斷的話,Redis就不能單點(diǎn)部署,這時(shí)候我們先看下Redis主從。

1.1 Redsi主從概念

  • Redis主從模式,就是部署多臺(tái)Redis服務(wù)器,有主庫(kù)和從庫(kù),它們之間通過主從復(fù)制,以保證數(shù)據(jù)副本的一致。

  • 主從庫(kù)之間采用的是讀寫分離的方式,其中主庫(kù)負(fù)責(zé)讀操作和寫操作,從庫(kù)則負(fù)責(zé)讀操作。

  • 如果Redis主庫(kù)掛了,切換其中的從庫(kù)成為主庫(kù)。

1.2 Redis 主從同步過程

Redis主從同步包括三個(gè)階段。

第一階段:主從庫(kù)間建立連接、協(xié)商同步。

  • 從庫(kù)向主庫(kù)發(fā)送psync?命令,告訴它要進(jìn)行數(shù)據(jù)同步。

  • 主庫(kù)收到?psync?命令后,響應(yīng)FULLRESYNC命令(它表示第一次復(fù)制采用的是全量復(fù)制),并帶上主庫(kù)runID和主庫(kù)目前的復(fù)制進(jìn)度offset。

第二階段:主庫(kù)把數(shù)據(jù)同步到從庫(kù),從庫(kù)收到數(shù)據(jù)后,完成本地加載。

  • 主庫(kù)執(zhí)行bgsave命令,生成RDB文件,接著將文件發(fā)給從庫(kù)。從庫(kù)接收到RDB?文件后,會(huì)先清空當(dāng)前數(shù)據(jù)庫(kù),然后加載 RDB 文件。

  • 主庫(kù)把數(shù)據(jù)同步到從庫(kù)的過程中,新來的寫操作,會(huì)記錄到replication buffer。

第三階段,主庫(kù)把新寫的命令,發(fā)送到從庫(kù)。

  • 主庫(kù)完成RDB發(fā)送后,會(huì)把replication buffer中的修改操作發(fā)給從庫(kù),從庫(kù)再重新執(zhí)行這些操作。這樣主從庫(kù)就實(shí)現(xiàn)同步啦。

1.3 Redis主從的一些注意點(diǎn)

1.3.1 主從數(shù)據(jù)不一致

因?yàn)橹鲝膹?fù)制是異步進(jìn)行的,如果從庫(kù)滯后執(zhí)行,則會(huì)導(dǎo)致主從數(shù)據(jù)不一致

主從數(shù)據(jù)不一致一般有兩個(gè)原因:

  • 主從庫(kù)網(wǎng)路延遲。

  • 從庫(kù)收到了主從命令,但是它正在執(zhí)行阻塞性的命令(如hgetall等)。

如何解決主從數(shù)據(jù)不一致問題呢?

  • 可以換更好的硬件配置,保證網(wǎng)絡(luò)暢通。

  • 監(jiān)控主從庫(kù)間的復(fù)制進(jìn)度

  • 1.3.2 讀取過期數(shù)據(jù)

    Redis刪除數(shù)據(jù)有這幾種策略:

    • 惰性刪除:只有當(dāng)訪問一個(gè)key時(shí),才會(huì)判斷該key是否已過期,過期則清除。

    • 定期刪除:每隔一定的時(shí)間,會(huì)掃描一定數(shù)量的數(shù)據(jù)庫(kù)的expires字典中一定數(shù)量的key,并清除其中已過期的key。

    • 主動(dòng)刪除:當(dāng)前已用內(nèi)存超過最大限定時(shí),觸發(fā)主動(dòng)清理策略。

    如果使用Redis版本低于3.2,讀從庫(kù)時(shí),并不會(huì)判斷數(shù)據(jù)是否過期,而是會(huì)返回過期數(shù)據(jù)。而3.2 版本后,Redis做了改進(jìn),如果讀到的數(shù)據(jù)已經(jīng)過期了,從庫(kù)不會(huì)刪除,卻會(huì)返回空值,避免了客戶端讀到過期數(shù)據(jù)

    因此,在主從Redis模式下,盡量使用?Redis 3.2以上的版本。

    1.3.3 一主多從,全量復(fù)制時(shí)主庫(kù)壓力問題

    如果是一主多從模式,從庫(kù)很多的時(shí)候,如果每個(gè)從庫(kù)都要和主庫(kù)進(jìn)行全量復(fù)制的話,主庫(kù)的壓力是很大的。因?yàn)橹鲙?kù)fork進(jìn)程生成RDB,這個(gè)fork的過程是會(huì)阻塞主線程處理正常請(qǐng)求的。同時(shí),傳輸大的RDB文件也會(huì)占用主庫(kù)的網(wǎng)絡(luò)寬帶。

    可以使用主-從-從模式解決。什么是主從從模式呢?其實(shí)就是部署主從集群時(shí),選擇硬件網(wǎng)絡(luò)配置比較好的一個(gè)從庫(kù),讓它跟部分從庫(kù)再建立主從關(guān)系。如圖:

    1.3.4 主從網(wǎng)絡(luò)斷了怎么辦呢?

    主從庫(kù)完成了全量復(fù)制后,它們之間會(huì)維護(hù)一個(gè)網(wǎng)絡(luò)長(zhǎng)連接,用于主庫(kù)后續(xù)收到寫命令傳輸?shù)綇膸?kù),它可以避免頻繁建立連接的開銷。但是,如果網(wǎng)絡(luò)斷開重連后,是否還需要進(jìn)行一次全量復(fù)制呢?

    如果是Redis 2.8之前,從庫(kù)和主庫(kù)重連后,確實(shí)會(huì)再進(jìn)行一次全量復(fù)制,但是這樣開銷就很大。而Redis 2.8之后做了優(yōu)化,重連后采用增量復(fù)制方式,即把主從庫(kù)網(wǎng)絡(luò)斷連期間主庫(kù)收到的寫命令,同步給從庫(kù)。

    主從庫(kù)重連后,就是利用repl_backlog_buffer實(shí)現(xiàn)增量復(fù)制。

    當(dāng)主從庫(kù)斷開連接后,主庫(kù)會(huì)把斷連期間收到的寫操作命令,寫入replication buffer,同時(shí)也會(huì)把這些操作命令寫入repl_backlog_buffer這個(gè)緩沖區(qū)。repl_backlog_buffer是一個(gè)環(huán)形緩沖區(qū),主庫(kù)會(huì)記錄自己寫到的位置,從庫(kù)則會(huì)記錄自己已經(jīng)讀到的位置。

    2. Redis哨兵

    主從模式中,一旦主節(jié)點(diǎn)由于故障不能提供服務(wù),需要人工將從節(jié)點(diǎn)晉升為主節(jié)點(diǎn),同時(shí)還要通知應(yīng)用方更新主節(jié)點(diǎn)地址。顯然,多數(shù)業(yè)務(wù)場(chǎng)景都不能接受這種故障處理方式。Redis從2.8開始正式提供了Redis哨兵機(jī)制來解決這個(gè)問題。

    • 哨兵作用

    • 哨兵模式簡(jiǎn)介

    • 哨兵如何判定主庫(kù)下線

    • 哨兵模式如何工作

    • 哨兵是如何選主的

    • 由哪個(gè)哨兵執(zhí)行主從切換呢?

    • 哨兵下的故障轉(zhuǎn)移

    2.1 哨兵作用

    哨兵其實(shí)是一個(gè)運(yùn)行在特殊模式下的Redis進(jìn)程。它有三個(gè)作用,分別是:監(jiān)控、自動(dòng)選主切換(簡(jiǎn)稱選主)、通知

    哨兵進(jìn)程在運(yùn)行期間,監(jiān)視所有的Redis主節(jié)點(diǎn)和從節(jié)點(diǎn)。它通過周期性給主從庫(kù)發(fā)送PING命令,檢測(cè)主從庫(kù)是否掛了。如果從庫(kù)沒有在規(guī)定時(shí)間內(nèi)響應(yīng)哨兵的PING命令,哨兵就會(huì)把它標(biāo)記為下線狀態(tài);如果主庫(kù)沒有在規(guī)定時(shí)間內(nèi)響應(yīng)哨兵的PING命令,哨兵則會(huì)判定主庫(kù)下線,然后開始切換到選主任務(wù)。

    所謂選主,其實(shí)就是從多個(gè)從庫(kù)中,按照一定規(guī)則,選出一個(gè)當(dāng)做主庫(kù)。至于通知呢,就是選出主庫(kù)后,哨兵把新主庫(kù)的連接信息發(fā)給其他從庫(kù),讓它們和新主庫(kù)建立主從關(guān)系。同時(shí),哨兵也會(huì)把新主庫(kù)的連接信息通知給客戶端,讓它們把請(qǐng)求操作發(fā)到新主庫(kù)上。

    2.2 哨兵模式

    因?yàn)镽edis哨兵也是一個(gè)Redis進(jìn)程,如果它自己掛了呢,那是不是就起不了監(jiān)控的作用啦。我們一起來看下Redis哨兵模式

    哨兵模式,就是由一個(gè)或多個(gè)哨兵實(shí)例組成的哨兵系統(tǒng),它可以監(jiān)視所有的Redis主節(jié)點(diǎn)和從節(jié)點(diǎn),并在被監(jiān)視的主節(jié)點(diǎn)進(jìn)入下線狀態(tài)時(shí),自動(dòng)將下線主服務(wù)器屬下的某個(gè)從節(jié)點(diǎn)升級(jí)為新的主節(jié)點(diǎn)。,一個(gè)哨兵進(jìn)程對(duì)Redis節(jié)點(diǎn)進(jìn)行監(jiān)控,就可能會(huì)出現(xiàn)問題(單點(diǎn)問題)。因此,一般使用多個(gè)哨兵來進(jìn)行監(jiān)控Redis節(jié)點(diǎn),并且各個(gè)哨兵之間還會(huì)進(jìn)行監(jiān)控。

    其實(shí)哨兵之間是通過發(fā)布訂閱機(jī)制組成集群的,同時(shí),哨兵又通過INFO命令,獲得了從庫(kù)連接信息,也能和從庫(kù)建立連接,從而進(jìn)行監(jiān)控。

    2.3 哨兵如何判定主庫(kù)下線

    哨兵是如何判斷主庫(kù)是否下線的呢?我們先來了解兩個(gè)基礎(chǔ)概念哈:主觀下線和客觀下線

    • 哨兵進(jìn)程向主庫(kù)、從庫(kù)發(fā)送PING命令,如果主庫(kù)或者從庫(kù)沒有在規(guī)定的時(shí)間內(nèi)響應(yīng)PING命令,哨兵就把它標(biāo)記為主觀下線

    • 如果是主庫(kù)被標(biāo)記為主觀下線,則正在監(jiān)視這個(gè)主庫(kù)的所有哨兵要以每秒一次的頻率,以確認(rèn)主庫(kù)是否真的進(jìn)入了主觀下線。當(dāng)有多數(shù)的哨兵(一般少數(shù)服從多數(shù),由 Redis 管理員自行設(shè)定的一個(gè)值)在指定的時(shí)間范圍內(nèi)確認(rèn)主庫(kù)的確進(jìn)入了主觀下線狀態(tài),則主庫(kù)會(huì)被標(biāo)記為客觀下線。這樣做的目的就是避免對(duì)主庫(kù)的誤判,以減少?zèng)]有必要的主從切換,減少不必要的開銷。

    假設(shè)我們有N個(gè)哨兵實(shí)例,如果有N/2+1個(gè)實(shí)例判斷主庫(kù)主觀下線,此時(shí)就可以把節(jié)點(diǎn)標(biāo)記為客觀下線,就可以做主從切換了。

    2.4 哨兵的工作模式

  • 每個(gè)哨兵以每秒鐘一次的頻率向它所知的主庫(kù)、從庫(kù)以及其他哨兵實(shí)例發(fā)送一個(gè)PING命令。

  • 如果一個(gè)實(shí)例節(jié)點(diǎn)距離最后一次有效回復(fù)PING命令的時(shí)間超過down-after-milliseconds選項(xiàng)所指定的值, 則這個(gè)實(shí)例會(huì)被哨兵標(biāo)記為主觀下線。

  • 如果主庫(kù)被標(biāo)記為主觀下線,則正在監(jiān)視這個(gè)主庫(kù)的所有哨兵要以每秒一次的頻率確認(rèn)主庫(kù)的確進(jìn)入了主觀下線狀態(tài)。

  • 當(dāng)有足夠數(shù)量的哨兵(大于等于配置文件指定的值)在指定的時(shí)間范圍內(nèi)確認(rèn)主庫(kù)的確進(jìn)入了主觀下線狀態(tài), 則主庫(kù)會(huì)被標(biāo)記為客觀下線

  • 當(dāng)主庫(kù)被哨兵標(biāo)記為客觀下線時(shí),就會(huì)進(jìn)入選主模式

  • 若沒有足夠數(shù)量的哨兵同意主庫(kù)已經(jīng)進(jìn)入主觀下線, 主庫(kù)的主觀下線狀態(tài)就會(huì)被移除;若主庫(kù)重新向哨兵的PING命令返回有效回復(fù),主庫(kù)的主觀下線狀態(tài)就會(huì)被移除。

  • 2.5 哨兵是如何選主的?

    如果明確主庫(kù)已經(jīng)客觀下線了,哨兵就開始了選主模式。

    哨兵選主包括兩大過程,分別是:過濾和打分。其實(shí)就是在多個(gè)從庫(kù)中,先按照一定的篩選條件,把不符合條件的從庫(kù)過濾掉。然后再按照一定的規(guī)則,給剩下的從庫(kù)逐個(gè)打分,將得分最高的從庫(kù)選為新主庫(kù)

    • 選主時(shí),會(huì)判斷從庫(kù)的狀態(tài),如果已經(jīng)下線,就直接過濾

    • 如果從庫(kù)網(wǎng)絡(luò)不好,老是超時(shí),也會(huì)被過濾掉。看這個(gè)參數(shù)down-after-milliseconds,它表示我們認(rèn)定主從庫(kù)斷連的最大連接超時(shí)時(shí)間。

    • 過濾掉了不適合做主庫(kù)的從庫(kù)后,就可以給剩下的從庫(kù)打分,按這三個(gè)規(guī)則打分:從庫(kù)優(yōu)先級(jí)、從庫(kù)復(fù)制進(jìn)度以及從庫(kù)ID號(hào)

    • 從庫(kù)優(yōu)先級(jí)最高的話,打分就越高,優(yōu)先級(jí)可以通過slave-priority配置。如果優(yōu)先級(jí)一樣,就選與舊的主庫(kù)復(fù)制進(jìn)度最快的從庫(kù)。如果優(yōu)先級(jí)和從庫(kù)進(jìn)度都一樣,從庫(kù)ID 號(hào)小的打分高。

    2.6 由哪個(gè)哨兵執(zhí)行主從切換呢?

    一個(gè)哨兵標(biāo)記主庫(kù)為主觀下線后,它會(huì)征求其他哨兵的意見,確認(rèn)主庫(kù)是否的確進(jìn)入了主觀下線狀態(tài)。它向其他實(shí)例哨兵發(fā)送is-master-down-by-addr命令。其他哨兵會(huì)根據(jù)自己和主庫(kù)的連接情況,回應(yīng)Y或N(Y 表示贊成,N表示反對(duì)票)。如果這個(gè)哨兵獲取得足夠多的贊成票數(shù)(quorum配置),主庫(kù)會(huì)被標(biāo)記為客觀下線

    標(biāo)記主庫(kù)客觀下線的這個(gè)哨兵,緊接著向其他哨兵發(fā)送命令,再發(fā)起投票,希望它可以來執(zhí)行主從切換。這個(gè)投票過程稱為Leader 選舉。因?yàn)樽罱K執(zhí)行主從切換的哨兵稱為L(zhǎng)eader,投票過程就是確定Leader。一個(gè)哨兵想成為L(zhǎng)eader需要滿足兩個(gè)條件:

    • 需要拿到num(sentinels)/2+1的贊成票。

    • 并且拿到的票數(shù)需要大于等于哨兵配置文件中的quorum值。

    舉個(gè)例子,假設(shè)有3個(gè)哨兵。配置的quorum值為2。即一個(gè)一個(gè)哨兵想成為L(zhǎng)eader至少需要拿到2張票。為了更好理解,大家可以看下

    • 在t1時(shí)刻,哨兵A1判斷主庫(kù)為客觀下線,它想成為主從切換的Leader,于是先給自己投一張贊成票,然后分別向哨兵A2 和A3發(fā)起投票命令,表示想成為 Leader。

    • 在 t2 時(shí)刻,A3 判斷主庫(kù)為客觀下線,它也想成為 Leader,所以也先給自己投一張贊成票,再分別向 A1 和 A2 發(fā)起投票命令,表示也要成為 Leader。

    • 在 t3 時(shí)刻,哨兵A1 收到了A3 的Leader投票請(qǐng)求。因?yàn)锳1已經(jīng)把票Y投給自己了,所以它不能再給其他哨兵投贊成票了,所以A1投票N給A3。

    • 在 t4時(shí)刻,哨兵A2收到A3 的Leader投票請(qǐng)求,因?yàn)樯诒鳤2之前沒有投過票,它會(huì)給第一個(gè)向它發(fā)送投票請(qǐng)求的哨兵回復(fù)贊成票Y。

    • 在 t5時(shí)刻,哨兵A2收到A1 的Leader投票請(qǐng)求,因?yàn)樯诒鳤2之前已經(jīng)投過贊成票給A3了,所以它只能給A1投反對(duì)票N。

    • 最后t6時(shí)刻,哨兵A1只收到自己的一票Y贊成票,而哨兵A3得到兩張贊成票(A2和A3投的),因此哨兵A3成為了Leader

    假設(shè)網(wǎng)絡(luò)故障等原因,哨兵A3也沒有收到兩張票,那么這輪投票就不會(huì)產(chǎn)生Leader。哨兵集群會(huì)等待一段時(shí)間(一般是哨兵故障轉(zhuǎn)移超時(shí)時(shí)間的2倍),再進(jìn)行重新選舉。

    2.7 故障轉(zhuǎn)移

    假設(shè)哨兵模式架構(gòu)如下,有三個(gè)哨兵,一個(gè)主庫(kù)M,兩個(gè)從庫(kù)S1和S2。

    當(dāng)哨兵檢測(cè)到Redis主庫(kù)M1出現(xiàn)故障,那么哨兵需要對(duì)集群進(jìn)行故障轉(zhuǎn)移。假設(shè)選出了哨兵3作為L(zhǎng)eader。故障轉(zhuǎn)移流程如下:

  • 從庫(kù)S1解除從節(jié)點(diǎn)身份,升級(jí)為新主庫(kù)

  • 從庫(kù)S2成為新主庫(kù)的從庫(kù)

  • 原主節(jié)點(diǎn)恢復(fù)也變成新主庫(kù)的從節(jié)點(diǎn)

  • 通知客戶端應(yīng)用程序新主節(jié)點(diǎn)的地址。

  • 故障轉(zhuǎn)移后:

    3.Redis Cluster集群

    哨兵模式基于主從模式,實(shí)現(xiàn)讀寫分離,它還可以自動(dòng)切換,系統(tǒng)可用性更高。但是它每個(gè)節(jié)點(diǎn)存儲(chǔ)的數(shù)據(jù)是一樣的,浪費(fèi)內(nèi)存,并且不好在線擴(kuò)容。因此,Reids Cluster集群(切片集群的實(shí)現(xiàn)方案)應(yīng)運(yùn)而生,它在Redis3.0加入的,實(shí)現(xiàn)了Redis的分布式存儲(chǔ)。對(duì)數(shù)據(jù)進(jìn)行分片,也就是說每臺(tái)Redis節(jié)點(diǎn)上存儲(chǔ)不同的內(nèi)容,來解決在線擴(kuò)容的問題。并且,它可以保存大量數(shù)據(jù),即分散數(shù)據(jù)到各個(gè)Redis實(shí)例,還提供復(fù)制和故障轉(zhuǎn)移的功能。

    比如你一個(gè)Redis實(shí)例保存15G甚至更大的數(shù)據(jù),響應(yīng)就會(huì)很慢,這是因?yàn)镽edis RDB 持久化機(jī)制導(dǎo)致的,Redis會(huì)fork子進(jìn)程完成 RDB 持久化操作,fork執(zhí)行的耗時(shí)與 Redis 數(shù)據(jù)量成正相關(guān)。

    這時(shí)候你很容易想到,把15G數(shù)據(jù)分散來存儲(chǔ)就好了嘛。這就是Redis切片集群的初衷。切片集群是啥呢?來看個(gè)例子,如果你要用Redis保存15G的數(shù)據(jù),可以用單實(shí)例Redis,或者3臺(tái)Redis實(shí)例組成切片集群,對(duì)比如下:

    切片集群和Redis Cluster?的區(qū)別:Redis Cluster是從Redis3.0版本開始,官方提供的一種實(shí)現(xiàn)切片集群的方案。

    既然數(shù)據(jù)是分片分布到不同Redis實(shí)例的,那客戶端到底是怎么確定想要訪問的數(shù)據(jù)在哪個(gè)實(shí)例上呢?我們一起來看下Reids Cluster是怎么做的哈。

    3.1 哈希槽(Hash Slot)

    Redis Cluster方案采用哈希槽(Hash Slot),來處理數(shù)據(jù)和實(shí)例之間的映射關(guān)系。

    一個(gè)切片集群被分為16384個(gè)slot(槽),每個(gè)進(jìn)入Redis的鍵值對(duì),根據(jù)key進(jìn)行散列,分配到這16384插槽中的一個(gè)。使用的哈希映射也比較簡(jiǎn)單,用CRC16算法計(jì)算出一個(gè)16bit的值,再對(duì)16384取模。數(shù)據(jù)庫(kù)中的每個(gè)鍵都屬于這16384個(gè)槽的其中一個(gè),集群中的每個(gè)節(jié)點(diǎn)都可以處理這16384個(gè)槽。

    集群中的每個(gè)節(jié)點(diǎn)負(fù)責(zé)一部分的哈希槽,假設(shè)當(dāng)前集群有A、B、C3個(gè)節(jié)點(diǎn),每個(gè)節(jié)點(diǎn)上負(fù)責(zé)的哈希槽數(shù) =16384/3,那么可能存在的一種分配:

    • 節(jié)點(diǎn)A負(fù)責(zé)0~5460號(hào)哈希槽

    • 節(jié)點(diǎn)B負(fù)責(zé)5461~10922號(hào)哈希槽

    • 節(jié)點(diǎn)C負(fù)責(zé)10923~16383號(hào)哈希槽

    客戶端給一個(gè)Redis實(shí)例發(fā)送數(shù)據(jù)讀寫操作時(shí),如果這個(gè)實(shí)例上并沒有相應(yīng)的數(shù)據(jù),會(huì)怎么樣呢?MOVED重定向和ASK重定向了解一下哈

    3.2 ?MOVED重定向和ASK重定向

    在Redis cluster模式下,節(jié)點(diǎn)對(duì)請(qǐng)求的處理過程如下:

  • 通過哈希槽映射,檢查當(dāng)前Redis key是否存在當(dāng)前節(jié)點(diǎn)

  • 若哈希槽不是由自身節(jié)點(diǎn)負(fù)責(zé),就返回MOVED重定向

  • 若哈希槽確實(shí)由自身負(fù)責(zé),且key在slot中,則返回該key對(duì)應(yīng)結(jié)果

  • 若Redis key不存在此哈希槽中,檢查該哈希槽是否正在遷出(MIGRATING)?

  • 若Redis key正在遷出,返回ASK錯(cuò)誤重定向客戶端到遷移的目的服務(wù)器上

  • 若哈希槽未遷出,檢查哈希槽是否導(dǎo)入中?

  • 若哈希槽導(dǎo)入中且有ASKING標(biāo)記,則直接操作,否則返回MOVED重定向

  • 3.2.1 Moved 重定向

    客戶端給一個(gè)Redis實(shí)例發(fā)送數(shù)據(jù)讀寫操作時(shí),如果計(jì)算出來的槽不是在該節(jié)點(diǎn)上,這時(shí)候它會(huì)返回MOVED重定向錯(cuò)誤,MOVED重定向錯(cuò)誤中,會(huì)將哈希槽所在的新實(shí)例的IP和port端口帶回去。這就是Redis Cluster的MOVED重定向機(jī)制。流程圖如下:

    3.2.2 ASK 重定向

    Ask重定向一般發(fā)生于集群伸縮的時(shí)候。集群伸縮會(huì)導(dǎo)致槽遷移,當(dāng)我們?nèi)ピ垂?jié)點(diǎn)訪問時(shí),此時(shí)數(shù)據(jù)已經(jīng)可能已經(jīng)遷移到了目標(biāo)節(jié)點(diǎn),使用Ask重定向可以解決此種情況。

    3.3 Cluster集群節(jié)點(diǎn)的通訊協(xié)議:Gossip

    一個(gè)Redis集群由多個(gè)節(jié)點(diǎn)組成,各個(gè)節(jié)點(diǎn)之間是怎么通信的呢?通過Gossip協(xié)議!Gossip是一種謠言傳播協(xié)議,每個(gè)節(jié)點(diǎn)周期性地從節(jié)點(diǎn)列表中選擇 k 個(gè)節(jié)點(diǎn),將本節(jié)點(diǎn)存儲(chǔ)的信息傳播出去,直到所有節(jié)點(diǎn)信息一致,即算法收斂了。

    Gossip協(xié)議基本思想:一個(gè)節(jié)點(diǎn)想要分享一些信息給網(wǎng)絡(luò)中的其他的一些節(jié)點(diǎn)。于是,它周期性的隨機(jī)選擇一些節(jié)點(diǎn),并把信息傳遞給這些節(jié)點(diǎn)。這些收到信息的節(jié)點(diǎn)接下來會(huì)做同樣的事情,即把這些信息傳遞給其他一些隨機(jī)選擇的節(jié)點(diǎn)。一般而言,信息會(huì)周期性的傳遞給N個(gè)目標(biāo)節(jié)點(diǎn),而不只是一個(gè)。這個(gè)N被稱為fanout

    Redis Cluster集群通過Gossip協(xié)議進(jìn)行通信,節(jié)點(diǎn)之前不斷交換信息,交換的信息內(nèi)容包括節(jié)點(diǎn)出現(xiàn)故障、新節(jié)點(diǎn)加入、主從節(jié)點(diǎn)變更信息、slot信息等等。gossip協(xié)議包含多種消息類型,包括ping,pong,meet,fail,等等

    • meet消息:通知新節(jié)點(diǎn)加入。消息發(fā)送者通知接收者加入到當(dāng)前集群,meet消息通信正常完成后,接收節(jié)點(diǎn)會(huì)加入到集群中并進(jìn)行周期性的ping、pong消息交換。

    • ping消息:節(jié)點(diǎn)每秒會(huì)向集群中其他節(jié)點(diǎn)發(fā)送 ping 消息,消息中帶有自己已知的兩個(gè)節(jié)點(diǎn)的地址、槽、狀態(tài)信息、最后一次通信時(shí)間等

    • pong消息:當(dāng)接收到ping、meet消息時(shí),作為響應(yīng)消息回復(fù)給發(fā)送方確認(rèn)消息正常通信。消息中同樣帶有自己已知的兩個(gè)節(jié)點(diǎn)信息。

    • fail消息:當(dāng)節(jié)點(diǎn)判定集群內(nèi)另一個(gè)節(jié)點(diǎn)下線時(shí),會(huì)向集群內(nèi)廣播一個(gè)fail消息,其他節(jié)點(diǎn)接收到fail消息之后把對(duì)應(yīng)節(jié)點(diǎn)更新為下線狀態(tài)。

    特別的,每個(gè)節(jié)點(diǎn)是通過集群總線(cluster bus) 與其他的節(jié)點(diǎn)進(jìn)行通信的。通訊時(shí),使用特殊的端口號(hào),即對(duì)外服務(wù)端口號(hào)加10000。例如如果某個(gè)node的端口號(hào)是6379,那么它與其它nodes通信的端口號(hào)是 16379。nodes 之間的通信采用特殊的二進(jìn)制協(xié)議。

    3.4 故障轉(zhuǎn)移

    Redis集群實(shí)現(xiàn)了高可用,當(dāng)集群內(nèi)節(jié)點(diǎn)出現(xiàn)故障時(shí),通過故障轉(zhuǎn)移,以保證集群正常對(duì)外提供服務(wù)。

    redis集群通過ping/pong消息,實(shí)現(xiàn)故障發(fā)現(xiàn)。這個(gè)環(huán)境包括主觀下線和客觀下線

    主觀下線:?某個(gè)節(jié)點(diǎn)認(rèn)為另一個(gè)節(jié)點(diǎn)不可用,即下線狀態(tài),這個(gè)狀態(tài)并不是最終的故障判定,只能代表一個(gè)節(jié)點(diǎn)的意見,可能存在誤判情況。

    主觀下線

    客觀下線:?指標(biāo)記一個(gè)節(jié)點(diǎn)真正的下線,集群內(nèi)多個(gè)節(jié)點(diǎn)都認(rèn)為該節(jié)點(diǎn)不可用,從而達(dá)成共識(shí)的結(jié)果。如果是持有槽的主節(jié)點(diǎn)故障,需要為該節(jié)點(diǎn)進(jìn)行故障轉(zhuǎn)移。

    • 假如節(jié)點(diǎn)A標(biāo)記節(jié)點(diǎn)B為主觀下線,一段時(shí)間后,節(jié)點(diǎn)A通過消息把節(jié)點(diǎn)B的狀態(tài)發(fā)到其它節(jié)點(diǎn),當(dāng)節(jié)點(diǎn)C接受到消息并解析出消息體時(shí),如果發(fā)現(xiàn)節(jié)點(diǎn)B的pfail狀態(tài)時(shí),會(huì)觸發(fā)客觀下線流程;

    • 當(dāng)下線為主節(jié)點(diǎn)時(shí),此時(shí)Redis Cluster集群為統(tǒng)計(jì)持有槽的主節(jié)點(diǎn)投票,看投票數(shù)是否達(dá)到一半,當(dāng)下線報(bào)告統(tǒng)計(jì)數(shù)大于一半時(shí),被標(biāo)記為客觀下線狀態(tài)。

    流程如下:

    客觀下線

    故障恢復(fù):故障發(fā)現(xiàn)后,如果下線節(jié)點(diǎn)的是主節(jié)點(diǎn),則需要在它的從節(jié)點(diǎn)中選一個(gè)替換它,以保證集群的高可用。流程如下:

    • 資格檢查:檢查從節(jié)點(diǎn)是否具備替換故障主節(jié)點(diǎn)的條件。

    • 準(zhǔn)備選舉時(shí)間:資格檢查通過后,更新觸發(fā)故障選舉時(shí)間。

    • 發(fā)起選舉:到了故障選舉時(shí)間,進(jìn)行選舉。

    • 選舉投票:只有持有槽的主節(jié)點(diǎn)才有票,從節(jié)點(diǎn)收集到足夠的選票(大于一半),觸發(fā)替換主節(jié)點(diǎn)操作

    3.5 加餐:為什么Redis Cluster的Hash Slot 是16384?

    對(duì)于客戶端請(qǐng)求過來的鍵值key,哈希槽=CRC16(key) % 16384,CRC16算法產(chǎn)生的哈希值是16bit的,按道理該算法是可以產(chǎn)生2^16=65536個(gè)值,為什么不用65536,用的是16384(2^14)呢?

    大家可以看下作者的原始回答:

    Redis 每個(gè)實(shí)例節(jié)點(diǎn)上都保存對(duì)應(yīng)有哪些slots,它是一個(gè)?unsigned char slots[REDIS_CLUSTER_SLOTS/8]?類型

    • 在redis節(jié)點(diǎn)發(fā)送心跳包時(shí)需要把所有的槽放到這個(gè)心跳包里,如果slots數(shù)量是?65536?,占空間= ?65536 / 8(一個(gè)字節(jié)8bit) / 1024(1024個(gè)字節(jié)1kB) =8kB?,如果使用slots數(shù)量是?16384?,所占空間 =?16384 / 8(每個(gè)字節(jié)8bit) / 1024(1024個(gè)字節(jié)1kB) = 2kB?,可見16384個(gè)slots比 65536省 6kB內(nèi)存左右,假如一個(gè)集群有100個(gè)節(jié)點(diǎn),那每個(gè)實(shí)例里就省了600kB啦

    • 一般情況下Redis cluster集群主節(jié)點(diǎn)數(shù)量基本不可能超過1000個(gè),超過1000會(huì)導(dǎo)致網(wǎng)絡(luò)擁堵。對(duì)于節(jié)點(diǎn)數(shù)在1000以內(nèi)的Redis cluster集群,16384個(gè)槽位其實(shí)夠用了。

    既然為了節(jié)省內(nèi)存網(wǎng)絡(luò)開銷,為什么 slots不選擇用8192(即16384/2)?呢?

    8192 / 8(每個(gè)字節(jié)8bit) / 1024(1024個(gè)字節(jié)1kB) = 1kB?,只需要1KB!可以先看下Redis 把 Key 換算成所屬 slots 的方法

    unsigned?int?keyHashSlot(char?*key,?int?keylen)?{int?s,?e;?/*?start-end?indexes?of?{?and?}?*/for?(s?=?0;?s?<?keylen;?s++)if?(key[s]?==?'{')?break;/*?No?'{'???Hash?the?whole?key.?This?is?the?base?case.?*/if?(s?==?keylen)?return?crc16(key,keylen)?&?0x3FFF;/*?'{'?found??Check?if?we?have?the?corresponding?'}'.?*/for?(e?=?s+1;?e?<?keylen;?e++)if?(key[e]?==?'}')?break;/*?No?'}'?or?nothing?betweeen?{}???Hash?the?whole?key.?*/if?(e?==?keylen?||?e?==?s+1)?return?crc16(key,keylen)?&?0x3FFF;/*?If?we?are?here?there?is?both?a?{?and?a?}?on?its?right.?Hash*?what?is?in?the?middle?between?{?and?}.?*/return?crc16(key+s+1,e-s-1)?&?0x3FFF; }

    Redis 將key換算成slots 的方法:其實(shí)就是是將crc16(key) 之后再和slots的數(shù)量進(jìn)行與計(jì)算

    這里為什么用0x3FFF(16383)?來計(jì)算,而不是16384呢?因?yàn)樵诓划a(chǎn)生溢出的情況下?x % (2^n)等價(jià)于x & (2^n - 1)即?x % 16384 == x & 16383

    那到底為什么不用8192呢?

    crc16 出來結(jié)果,理論上出現(xiàn)重復(fù)的概率為 1?65536,但實(shí)際結(jié)果重復(fù)概率可能比這個(gè)大不少,就像crc32 結(jié)果 理論上 1/40億 分之一,但實(shí)際有人測(cè)下來10萬(wàn)碰撞的概率就比較大了。假如 slots 設(shè)置成 8192, 200個(gè)實(shí)例的節(jié)點(diǎn)情況下,理論值是 每40個(gè)不同key請(qǐng)求,命中就會(huì)失效一次,假如節(jié)點(diǎn)數(shù)增加到400,那就是20個(gè)請(qǐng)求。并且1kb 并不會(huì)比 2k 省太多,性價(jià)比不是特別高,所以可能 選16384會(huì)更為通用一點(diǎn)

    總結(jié)

    以上是生活随笔為你收集整理的Redis主从、哨兵、 Cluster集群一锅端!的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。

    如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò),歡迎將生活随笔推薦給好友。

    人人插人人爱 | 中文字幕在线国产精品 | 极品美女被弄高潮视频网站 | 亚洲国产网站 | 成人黄色电影在线观看 | 中文字幕久久精品亚洲乱码 | 久插视频 | 不卡的av在线 | 丁香五月缴情综合网 | 天天射色综合 | 操操操人人人 | 日韩美女一级片 | 在线观看国产成人av片 | 精品国产精品久久 | 成人动漫一区二区 | 久久99久久99精品免观看粉嫩 | 爱色av.com| 久久成人高清 | 玖玖视频网| 毛片激情永久免费 | 永久黄网站色视频免费观看w | 日韩一区二区三免费高清在线观看 | 在线观看视频精品 | 奇米影视四色8888 | 人人看人人 | 国产视频精选 | 中文字幕综合在线 | 久久99精品视频 | 日韩精品免费在线播放 | 日韩亚洲国产中文字幕 | 波多野结衣日韩 | 国产在线一区二区三区播放 | 色在线免费观看 | 激情综合网天天干 | 成人电影毛片 | 国内外成人在线 | 狠狠狠狠狠狠天天爱 | 97在线观看免费高清完整版在线观看 | 福利区在线观看 | 免费男女羞羞的视频网站中文字幕 | 黄色在线观看网站 | 夜夜干天天操 | 午夜 久久 tv | 99视频一区二区 | 免费毛片一区二区三区久久久 | 香蕉视频亚洲 | 亚洲精品网址在线观看 | 亚州精品国产 | 日韩一区二区三区免费视频 | 日本韩国精品一区二区在线观看 | 91精品久久久久 | 91福利在线观看 | 亚洲闷骚少妇在线观看网站 | 欧美孕妇与黑人孕交 | 久久99热这里只有精品国产 | 日韩一区精品 | 日韩成年视频 | 免费看污污视频的网站 | 久久激情婷婷 | 亚洲国产美女精品久久久久∴ | 国内成人精品视频 | 中文字幕在线观看亚洲 | 超碰个人在线 | 中文十次啦 | 97在线视频观看 | 欧美最猛性xxxxx免费 | 视频国产精品 | 99精品久久只有精品 | 亚洲国产欧美在线人成大黄瓜 | 97精品一区二区三区 | 一二三区av | 欧美一区二区日韩一区二区 | 国产91在线播放 | 亚洲精品免费观看 | 最近日本韩国中文字幕 | 波多野结衣一区三区 | 四虎影视www | 日韩免费观看视频 | 我要看黄色一级片 | 在线视频 你懂得 | 99精品视频在线看 | 亚洲在线黄色 | 久久精品一区八戒影视 | 亚洲日本中文字幕在线观看 | 日韩视频免费观看高清 | 国产麻豆成人传媒免费观看 | 国产三级视频在线 | 韩国一区二区三区在线观看 | 亚洲成免费 | 国产精品久久久免费 | 波多野结衣理论片 | 超碰成人免费电影 | 久久久观看 | 在线激情小视频 | 国产黄色精品 | 日韩在线视频网 | 久久国产精品99国产 | 91精品久久久久久久久久久久久 | 亚洲精品在线视频网站 | 成人在线播放免费观看 | 青草视频在线免费 | 精品国产乱码久久 | 欧美久久久久久久久久久久 | 97精品国产91久久久久久久 | 久久99在线视频 | 成人在线观看影院 | 91视频免费视频 | 91探花国产综合在线精品 | 国产精品岛国久久久久久久久红粉 | 国产在线精品视频 | 日本少妇高清做爰视频 | 精品美女国产在线 | 久久久久久久久国产 | 九九视频这里只有精品 | 一区二区电影在线观看 | 久久免费99精品久久久久久 | 美女久久久久久久久久久 | 中文在线www | 国产亚洲激情视频在线 | 日本久久成人中文字幕电影 | 色鬼综合网| 久久最新| 亚洲午夜精品久久久久久久久久久久 | 亚洲午夜精品久久久久久久久久久久 | 亚洲国产精品视频 | 18做爰免费视频网站 | 成 人 黄 色 视频免费播放 | 香蕉视频在线免费看 | 中文字幕大全 | 亚洲一级电影视频 | 国产超碰在线 | 在线观看视频你懂 | 中文字幕在线观看不卡 | 夜夜操天天摸 | 国产热re99久久6国产精品 | av线上看| 天堂资源在线观看视频 | a级片韩国 | 欧美一级专区免费大片 | 色av男人的天堂免费在线 | 日韩丝袜 | 国产成人在线观看 | www黄色大片 | 一区二区亚洲精品 | 亚洲黄色免费在线看 | a久久久久久 | 最近日本韩国中文字幕 | 天天玩天天操天天射 | 欧美一区二区三区激情视频 | 亚洲国产一区av | 这里有精品在线视频 | 欧美精品国产综合久久 | 91精品福利在线 | 欧美黑人巨大xxxxx | 最近中文国产在线视频 | 国产一区高清在线观看 | 在线电影av | 国产精品久久久久久久久久久久 | 在线精品视频在线观看高清 | 欧美精品乱码久久久久久按摩 | 婷婷久久久 | 久久久国产一区二区三区四区小说 | 制服丝袜在线 | 国产在线小视频 | 豆豆色资源网xfplay | 亚洲午夜精品在线观看 | 天天射天天干天天 | 成人av在线一区二区 | 亚洲精品资源在线 | 有没有在线观看av | 亚洲精品国偷拍自产在线观看蜜桃 | 丁香婷婷色月天 | 国产高清av免费在线观看 | 久久96国产精品久久99软件 | 人人澡澡人人 | 亚洲九九九在线观看 | 国产中文字幕精品 | 五月婷婷播播 | 人人插人人做 | 精品国产美女 | 天堂在线一区二区三区 | 国产精品久久久久久久久久久久冷 | 手机看国产毛片 | 伊人黄色网 | 99久热在线精品视频观看 | 国产精品亚洲片在线播放 | 日韩激情精品 | 日本久久久久久科技有限公司 | 国产理论片在线观看 | 精品国自产在线观看 | 国产精品自产拍在线观看桃花 | 国产成人精品一区二区三区福利 | 超碰成人网 | 国产尤物一区二区三区 | 国产精品久免费的黄网站 | 国产麻豆精品免费视频 | 香蕉手机在线 | 国产黑丝一区二区 | 欧美了一区在线观看 | 97色综合| 亚洲精品久久久蜜桃直播 | 2022国产精品视频 | 免费日韩在线 | 黄色特级一级片 | 在线天堂视频 | 国产精品久久久久久久7电影 | 中文字幕一区二区三区在线视频 | 日韩三级视频在线看 | 久久久久国产一区二区三区四区 | 色在线高清 | 天天色天天干天天色 | 日韩爱爱片 | 六月久久婷婷 | 亚洲视频h | 国产精品爽爽久久久久久蜜臀 | 天天色天天操综合网 | 日韩av视屏 | 麻豆视屏 | 国产精品v欧美精品 | 国产一区免费在线观看 | 中文国产在线观看 | 综合精品在线 | 亚洲第一伊人 | 国产精品久久久久久久久久尿 | 午夜性盈盈 | 亚洲精品视频免费在线观看 | 久久久久久久久影视 | 成人综合婷婷国产精品久久免费 | 亚洲免费一级电影 | 免费网站观看www在线观看 | 国产不卡免费av | 免费日p视频 | 精品国产一区二区三区四区vr | 狠狠插狠狠操 | 欧美日韩亚洲第一页 | 亚洲少妇久久 | 色综合久久88色综合天天6 | 欧亚日韩精品一区二区在线 | 免费看污片 | 狠狠干干 | 在线观看免费观看在线91 | 久久艹艹 | wwxxxx日本 | 欧美大荫蒂xxx | 激情文学综合丁香 | 久亚洲| 成年人视频在线免费 | 69中文字幕| 五月天婷婷视频 | 久久久亚洲精华液 | 一区二区精品在线 | 三级黄色在线 | 久久日韩精品 | 国产精品去看片 | 天天干天天想 | 久久精品123 | 精品久久久久一区二区国产 | 91av在线免费视频 | 国产黄色免费观看 | 久久久久黄 | 亚洲国产资源 | 二区视频在线观看 | 深夜免费福利在线 | 国产精品不卡一区 | 亚洲国产偷 | 亚洲精品黄色在线观看 | 免费看黄在线看 | 亚洲成a人片综合在线 | 手机在线小视频 | 日本韩国中文字幕 | 免费在线观看av电影 | 亚洲在线高清 | 国产一区二区三区高清播放 | 欧美成人影音 | 999久久久久| 五月婷影院| 99视频在线| 日韩久久片| 免费看片网站91 | 91看片一区二区三区 | 午夜在线免费观看 | 久久亚洲热 | 一区二区视频在线播放 | 久久精品a | 亚洲作爱 | 日韩国产精品一区 | 久久a国产| 2020天天干天天操 | 婷婷爱五月天 | 国产一级免费观看视频 | 91成人免费视频 | 国产精品欧美一区二区 | 婷婷激情欧美 | 91九色九色 | 国产成人在线网站 | 日日操天天操狠狠操 | 午夜精品成人一区二区三区 | 免费观看成人 | caobi视频| 日本黄色免费大片 | 日韩欧美国产免费播放 | 伊人久久电影网 | 国产一区二区成人 | 日韩一区在线免费观看 | 免费日韩| 亚洲美女免费精品视频在线观看 | 草久视频在线观看 | 亚洲视频每日更新 | 五月天电影免费在线观看一区 | 波多野结衣精品 | 狠狠狠狠狠狠干 | 亚洲视频电影在线 | 欧美综合在线观看 | 欧美a√大片 | 天天射天天干天天操 | 人人爱在线视频 | 在线有码中文 | 亚洲高清视频一区二区三区 | 国产大片黄色 | 精品国产乱子伦一区二区 | 日日干日日操 | 91最新地址永久入口 | 国产精品 日韩 欧美 | av成人免费网站 | 免费在线观看不卡av | av电影一区| 色综合中文综合网 | 国产在线国偷精品产拍 | 男女拍拍免费视频 | 日韩欧美在线观看 | 国模视频一区二区三区 | 91手机在线看片 | 丁香婷婷深情五月亚洲 | 欧美一级性生活 | 成人蜜桃网 | 国产精品2018| 中文国产字幕 | 九色视频自拍 | 婷婷色五 | 国产精品久久久久久久久大全 | 中文在线中文资源 | 免费看成人片 | 国产三级在线播放 | 91桃色免费视频 | 超级碰99 | 国内视频一区二区 | 国产高清视频在线观看 | 亚洲天堂va | 97天天干 | 久久免费视频网站 | 五月婷婷婷婷婷 | 色爱成人网 | 免费看片网址 | 91女神的呻吟细腰翘臀美女 | 亚洲欧美乱综合图片区小说区 | 亚洲日本激情 | 亚洲人av免费网站 | 欧美孕妇与黑人孕交 | sm免费xx网站 | www.色就是色| 欧美日韩精品在线观看 | 精品久久一级片 | 特级西西444www大胆高清无视频 | 99久久影院 | 在线a视频| 免费看国产精品 | 国内精品美女在线观看 | 久草视频视频在线播放 | 欧美精品免费在线 | 国产视频一区在线播放 | 黄色av电影在线观看 | 婷婷色网视频在线播放 | 亚洲a资源| 国精产品999国精产品视频 | 亚洲热视频 | 日本女人的性生活视频 | 久久一及片| 亚洲激情小视频 | 日韩综合在线观看 | 国产精品久久久久国产a级 激情综合中文娱乐网 | 欧美精品亚洲二区 | 色婷婷av国产精品 | 韩日色视频 | 国产最新福利 | 国产乱对白刺激视频在线观看女王 | 国产精品尤物视频 | 在线 国产 亚洲 欧美 | 亚洲va在线va天堂va偷拍 | 国产一区在线视频播放 | 久久午夜羞羞影院 | 天天天色 | 欧美一区二区三区四区夜夜大片 | 免费国产亚洲视频 | 黄色福利视频网站 | 精品三级av | 激情五月婷婷综合 | 国产成人1区| 最新日韩在线观看视频 | 日韩在线高清视频 | 欧美一区二区精美视频 | 欧美不卡视频在线 | 日日日操操| 国产特级毛片aaaaaa高清 | 免费看的黄网站 | 国产伦精品一区二区三区四区视频 | 不卡中文字幕在线 | 黄色大片日本免费大片 | 成人精品国产免费网站 | 中国美女一级看片 | 一区二区三区在线免费观看视频 | 午夜影院三级 | 欧美激情精品久久久久久免费印度 | 久久99亚洲精品久久 | 久久99精品视频 | 国产不卡一区二区视频 | 九色视频网站 | 久久黄色小说 | 日韩高清一区在线 | 久久精品欧美一区二区三区麻豆 | 欧美一级电影 | 精品久久久免费视频 | 特黄特色特刺激视频免费播放 | 91久久偷偷做嫩草影院 | 国产99一区二区 | 日本最新高清不卡中文字幕 | va视频在线 | 免费婷婷| 欧美一区二视频在线免费观看 | 一级免费片| 波多野结衣亚洲一区二区 | 狠狠精品 | 在线黄网站 | 日韩在线视频免费看 | 国产精品女同一区二区三区久久夜 | 欧美日韩中文另类 | 欧美日韩在线观看一区二区三区 | 二区在线播放 | 97免费在线观看视频 | 国产一区免费在线 | 日本精品视频网站 | 国产伦理久久精品久久久久_ | 久青草视频在线观看 | 久久久久国产一区二区三区四区 | 日韩黄色免费在线观看 | 久久久麻豆 | 国产韩国日本高清视频 | 97免费| 不卡电影免费在线播放一区 | 808电影免费观看三年 | 在线精品亚洲 | 超碰人人草 | 一级免费黄视频 | 国产裸体视频网站 | 中文字幕久久亚洲 | 四虎国产精品永久在线国在线 | 精品久久一二三区 | 亚洲欧美日韩国产 | 又黄又刺激 | 丝袜美腿在线 | 日韩 在线观看 | 麻豆视频免费入口 | 精品一区欧美 | 国内久久久久久 | 中文字幕制服丝袜av久久 | 午夜精品视频一区二区三区在线看 | 91香蕉视频720p| 最近2019中文免费高清视频观看www99 | 亚洲劲爆av| 精品免费视频 | 四虎在线视频免费观看 | av五月婷婷| 99在线视频播放 | 美女久久久久久久久久久 | www.com操| 欧美亚洲久久 | 色综合色综合久久综合频道88 | 国产精品1024| 久久久久免费精品国产小说色大师 | 69国产精品视频免费观看 | 成人99免费视频 | 亚洲无吗av | 日韩国产精品一区 | 91精品啪在线观看国产 | 人人干狠狠操 | 国产高清在线 | 久久国产午夜精品理论片最新版本 | 久久亚洲影院 | 91精品夜夜 | 亚洲在线视频观看 | www.夜色.com | 四虎成人免费观看 | 天天干 夜夜操 | 黄色小网站在线观看 | 日韩精品一区在线观看 | 国产亚洲精品久久久久久 | 欧美精品在线观看 | 午夜av片| av片在线观看| 99精品欧美一区二区蜜桃免费 | 欧美巨乳波霸 | 亚洲丝袜中文 | 最近2019中文免费高清视频观看www99 | 国产美女精品视频 | 久久久美女 | 五月天综合婷婷 | 精品在线播放 | 免费a视频 | 久久麻豆精品 | 久久久国产精品电影 | 国产精品色婷婷视频 | 精品一区二区在线免费观看 | 国产精品久久久久永久免费看 | 日韩色av色资源 | www.天天射.com | 亚洲电影成人 | 中文在线www | 国产精品黄网站在线观看 | 一区二区精品在线观看 | 国产一级片一区二区三区 | 美女一级毛片视频 | 日韩精品一二三 | 国产永久免费高清在线观看视频 | 少妇搡bbbb搡bbb搡aa | 在线观看视频中文字幕 | 久久av中文字幕片 | 国产伦精品一区二区三区在线 | 国产99精品在线观看 | 一区在线观看 | 国产精品久久久久久久av电影 | 97品白浆高清久久久久久 | 四虎小视频 | 韩国精品福利一区二区三区 | 天天操夜操视频 | 最新成人在线 | av高清免费在线 | 亚洲四虎影院 | 超碰个人在线 | 日本久久久影视 | 成人黄大片 | 日韩高清免费观看 | 99色网站 | 国产精品粉嫩 | 亚洲欧美日韩国产一区二区三区 | 久草免费福利在线观看 | 免费在线中文字幕 | 亚洲一区黄色 | 一区二区三区四区免费视频 | 在线播放 亚洲 | 91秒拍国产福利一区 | 在线播放 亚洲 | 国产不卡在线视频 | 国产欧美日韩精品一区二区免费 | 久久人人爽人人爽人人片av软件 | 色偷偷97 | 国产精品丝袜 | www一起操| 久久久久久久久爱 | 亚洲精品在线一区二区 | www.精选视频.com| 欧美ⅹxxxxxx | 国产精品毛片久久久久久久久久99999999 | av一级片 | 97香蕉久久超级碰碰高清版 | 99婷婷 | 婷婷国产在线 | 最新国产精品视频 | 久久久久亚洲精品 | 99麻豆久久久国产精品免费 | 中文字幕视频网站 | 99精品免费久久久久久久久日本 | 午夜视频在线网站 | 中国一级片在线播放 | 色偷偷888欧美精品久久久 | 日韩大片免费在线观看 | 丁香六月天婷婷 | 中文字幕亚洲欧美 | 日韩国产欧美视频 | 天天摸天天弄 | 99精品视频精品精品视频 | 久久综合久久88 | 中文字幕在线观看视频免费 | 婷婷丁香在线观看 | 人人干人人草 | 欧美激情综合五月色丁香小说 | 成人午夜毛片 | 18女毛片 | 婷婷色在线观看 | 国产视频色 | 在线a亚洲视频播放在线观看 | 激情深爱五月 | 操操综合 | 91理论电影 | 在线亚洲欧美日韩 | 亚洲一级理论片 | 91视频啊啊啊 | 精品久久久久久久 | 亚洲 欧洲 国产 精品 | 在线观看免费版高清版 | 亚洲视频免费在线观看 | av线上免费看| 天天爱天天色 | 九九视频在线播放 | 久久视频精品在线 | www.亚洲精品在线 | 91亚洲欧美激情 | 国产精品尤物视频 | 中文国产在线观看 | 成人亚洲网 | 日日夜夜人人精品 | 亚洲va综合va国产va中文 | 天天射综合 | 欧美亚洲免费在线一区 | 日韩av有码在线 | 国产资源 | av在线进入 | 婷婷久久网| 国产精品成人一区二区三区 | 成人资源在线播放 | 91视频久久久久 | 97超碰人人干 | 狠狠干五月天 | 日韩综合在线观看 | 久久久久久久久久久影视 | 超碰免费久久 | 亚洲精品视频一二三 | 久久国产精品久久精品 | 日韩在线观看小视频 | 99精品视频在线看 | 久久精品站 | 色婷婷狠狠五月综合天色拍 | 九九色在线| 亚洲老妇xxxxxx| 涩涩网站在线播放 | 日韩一级成人av | 国产va在线观看免费 | 91久久奴性调教 | 看国产黄色大片 | 综合色伊人 | 香蕉久草| 久久久久久高潮国产精品视 | 中文日韩在线 | 亚洲国产中文字幕 | 成人免费观看a | 999国内精品永久免费视频 | 久久国产日韩 | 欧美日韩精品在线观看视频 | 午夜av一区| 日韩精品久久久久久久电影99爱 | 91av电影在线 | 九九国产精品视频 | 91精品老司机久久一区啪 | 爱爱av网站| 欧美aaa大片 | 精品国产aⅴ麻豆 | 在线欧美小视频 | 91黄色在线观看 | 久久久久9999亚洲精品 | av韩国在线 | 在线看片91 | 99久久婷婷国产综合亚洲 | 国产精品久久久久久久久久了 | 女女av在线| 久久国产精品99久久人人澡 | 色香蕉网 | 九九九视频精品 | 91丨九色丨蝌蚪丨老版 | 国产一区二区免费 | 91亚洲精品乱码久久久久久蜜桃 | 手机在线永久免费观看av片 | av在线电影免费观看 | 国产一区91 | 亚洲精品国产综合久久 | 99精品视频在线免费观看 | 亚洲国产成人高清精品 | 四虎成人精品永久免费av | 日韩av电影中文字幕在线观看 | 欧美一级片在线免费观看 | 天天综合视频在线观看 | 欧美少妇xx | 国产婷婷一区二区 | 91av在线不卡 | 天天色天天艹 | 91av视频在线免费观看 | 婷婷综合伊人 | 色婷婷丁香| а中文在线天堂 | 国产成人精品亚洲精品 | 欧美伦理一区二区 | 91九色精品女同系列 | 亚洲欧美成aⅴ人在线观看 四虎在线观看 | 视频二区在线 | 国际av在线 | 在线播放 日韩专区 | 激情五月婷婷激情 | 亚洲精品中文字幕在线 | 久久精品国产免费看久久精品 | 九九爱免费视频 | 欧日韩在线视频 | 天天干人人干 | 激情五月***国产精品 | 91桃色免费视频 | 2024av| 久久九九国产视频 | 热久久免费国产视频 | 麻豆久久一区二区 | 精品一二三四五区 | 四虎影视成人 | 国产精品免费一区二区三区在线观看 | 久久久69| 中文字幕免费观看视频 | 国产精品久久久久久吹潮天美传媒 | av在线免费不卡 | 日韩欧美高清一区二区三区 | 免费观看版 | 88av色 | 日本免费一二三区 | 中文字幕在线看视频国产中文版 | 人人爽人人搞 | 色av婷婷 | 欧美久久久久久久久久久久 | 在线观看国产亚洲 | 麻豆视频在线免费看 | 国产a级免费 | 亚洲激情 在线 | 五月婷婷在线综合 | 在线国产日本 | 天天操天 | 日本中文不卡 | 亚洲精品99 | 亚洲天天做 | 香蕉色综合 | 2019精品手机国产品在线 | 国产91在线免费视频 | 日韩三级中文字幕 | 日日夜夜精品网站 | 黄色一级在线视频 | 天天操 夜夜操 | 亚洲激情av | 国产成人精品一区二区三区网站观看 | 国产亚洲精品精品精品 | 亚洲精品久久久蜜臀下载官网 | 久久免费视屏 | 日本三级久久 | 亚洲国内精品视频 | 日韩天天操 | 欧美精品一二三 | 在线不卡中文字幕播放 | 久久精品艹 | 密桃av在线 | 91成人精品| 国产欧美综合在线观看 | 亚洲综合在线五月天 | 少妇18xxxx性xxxx片 | 爱色婷婷 | 亚洲成 人精品 | 91精品久久久久久久久久久久久 | 美女视频一区 | 欧美日韩18 | www.com久久| 国产亚洲视频在线观看 | 日韩精品五月天 | 国产精品视频在线观看 | 五月婷婷久久丁香 | 六月婷色 | 久久草在线精品 | 一区二区三区四区五区在线 | 激情久久五月天 | 伊人久久影视 | 亚洲国产精品久久久久婷婷884 | 久久精精品 | 国产97视频在线 | 一区二区三区视频网站 | 午夜视频黄 | 丁香久久久 | 久久综合免费视频 | 亚洲精品综合在线观看 | 亚州人成在线播放 | 最新日韩在线观看 | 久久久天堂 | 国产精品欧美激情在线观看 | 色偷偷888欧美精品久久久 | 精品中文字幕在线观看 | 亚洲香蕉在线观看 | 成人福利在线观看 | 欧美日韩在线播放 | a国产精品 | 久久99亚洲网美利坚合众国 | 涩涩色亚洲一区 | 亚洲精品乱码久久久久久 | 天操夜夜操 | 九九热久久久 | 一区二区三区电影在线播 | 亚洲精品在线观看中文字幕 | 精品国产成人在线 | 国产精品欧美日韩 | 久综合网 | 色在线视频 | 国内精品久久久久影院一蜜桃 | 久久综合九色综合网站 | 日韩理论视频 | 亚洲精品视频播放 | 欧美日韩国产页 | 久久字幕 | 午夜电影中文字幕 | 欧美极品少妇xxxxⅹ欧美极品少妇xxxx亚洲精品 | 狠狠地操 | 午夜精品久久久久久 | 国产不卡精品 | japanesefreesex中国少妇 | 久久一二区 | 91精品国产99久久久久久红楼 | 国产一区二区播放 | 天天夜夜狠狠操 | 一区二区三区韩国免费中文网站 | 五月婷婷在线观看视频 | 91在线观看视频网站 | 国内精品美女在线观看 | 中文字幕成人在线 | 视频一区在线播放 | 免费国产在线精品 | 中文国产字幕在线观看 | 高清日韩一区二区 | 成人精品视频久久久久 | av色综合网 | 精品久久1 | 欧美日韩精品久久久 | 天天舔天天搞 | 一级黄色电影网站 | 精品美女视频 | 中文乱幕日产无线码1区 | 亚洲高清视频在线播放 | 国产91精品一区二区麻豆亚洲 | 99久久毛片 | 国产字幕在线播放 | 日韩在线短视频 | 日韩在线视频网 | 色国产精品 | 久久不射电影院 | 免费观看性生活大片 | 国产日产精品一区二区三区四区 | 亚州国产精品 | 国产一卡二卡在线 | 日韩影视大全 | 久久国产精品电影 | 九九在线视频 | 伊人欧美| 日韩成人精品 | 中文字幕第一页av | 97国产精品久久 | 午夜丁香视频在线观看 | 欧美一级片免费观看 | 国产探花视频在线播放 | 99久久久国产精品 | 狠狠综合 | 操操色 | 超碰在线观看97 | 国产综合激情 | 美女很黄免费网站 | 国产手机视频在线播放 | 99热在线观看 | 成人电影毛片 | 亚洲影视九九影院在线观看 | 九九九在线 | 狠狠色丁香久久婷婷综 | 久久伊人精品一区二区三区 | 8x成人免费视频 | 国产精品99久久久精品免费观看 | 97**国产露脸精品国产 | 99久久精品日本一区二区免费 | 国产又粗又猛又黄 | 黄色毛片观看 | 免费看的国产视频网站 | 国产精品国内免费一区二区三区 | 久久久精品国产免费观看一区二区 | 亚洲综合欧美日韩狠狠色 | 久久av中文字幕片 | 一区二区三区四区五区在线 | 成人小视频在线免费观看 | 97国产大学生情侣白嫩酒店 | 午夜精品久久一牛影视 | 欧美日韩国产一区二 | 91一区一区三区 | 99欧美| 一级片免费观看 | 最新av免费在线 | 狠狠操夜夜操 | 国产精品一区二区免费视频 | 久久久久久99精品 | 国产精品网站 | 欧美日韩精品在线 | 精品欧美在线视频 | 欧美一二在线 | 九九九热 | 久久午夜鲁丝片 | 五月开心六月婷婷 | 天天做天天爱天天综合网 | 日本黄网站| 在线天堂中文www视软件 | 日本精a在线观看 | av免费观看网站 | 亚洲草视频| 天天操狠狠操夜夜操 | 天天操夜夜操国产精品 | 免费av在线播放 | 久草综合在线 | 久久综合精品国产一区二区三区 | a在线免费观看视频 | 精品在线观看一区二区 | 国产成人精品久久二区二区 | 九九一级片 | 日韩精品久久一区二区 | 四虎在线观看精品视频 | 久久国产欧美日韩精品 | 久久影视精品 | 综合网伊人 | 国产一二三在线视频 | 免费在线黄 | 国产三级久久久 | 91精品国产91久久久久 | 日韩乱码在线 | 色综合久久悠悠 | 国产亚洲欧美精品久久久久久 | 欧美精品乱码99久久影院 | 国产激情小视频在线观看 | 婷婷综合导航 | 亚洲性少妇性猛交wwww乱大交 | 免费看国产一级片 | www.xxxx变态.com | 国产精品成人自产拍在线观看 | 国产日韩在线看 | 人人爽人人爱 | 久久99精品久久久久久清纯直播 | 视频三区在线 | 色婷婷一区 | 黄色一级在线视频 | 国产成人在线观看免费 | 91在线入口 | 国产美女久久久 | 国产精品久久久久久久久免费看 | 99久久精品国产网站 | 国产精品麻豆一区二区三区 | 九九av| 久久精品国产精品亚洲精品 | 国产成人精品在线播放 | 色噜噜狠狠狠狠色综合 | 国产成人性色生活片 | 香蕉在线影院 | 亚洲黄色av | 国产91成人 | 日日爽天天 | 少妇bbbb揉bbbb日本 | 国产99久久精品一区二区永久免费 | 久久成人福利 | 91久久精品一区二区二区 | 欧美日韩中 | japanesexxx乱女另类 | 久久九九精品久久 | 亚洲经典视频在线观看 | 国产精品欧美久久久久天天影视 | 国产中文字幕一区二区三区 | 中文字幕亚洲高清 | 国产精品区二区三区日本 | 日日夜夜精品免费视频 | 亚洲黄色一级电影 | 国产视频网站在线观看 | 国产h片在线观看 | 天堂av在线网址 | 免费亚洲婷婷 | 天天插天天爱 | 免费观看一级成人毛片 | 欧美亚洲另类在线视频 | 一区二区视频在线播放 | 在线看黄网站 | 狠狠综合久久 | 国产中出在线观看 | 激情中文字幕 | 欧美精品久久久久久久久免 | 日韩三区在线观看 | 久草久草在线 | 成人av资源网 | 欧美在线视频一区二区三区 | 亚洲爱爱视频 | 人人爽久久久噜噜噜电影 | 人人干人人搞 | 天堂av在线网址 | 欧美淫aaa免费观看 日韩激情免费视频 | 97电影网站 | 婷婷色在线观看 | 久久久久免费 | 欧美亚洲国产一卡 | 亚洲综合色视频 | 国产在线精品福利 | 99精品国产视频 | 亚洲视频第一页 | av先锋中文字幕 | 伊人天天 | 免费麻豆视频 | 性色av香蕉一区二区 |