日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 运维知识 > 数据库 >内容正文

数据库

Redis-ha(sentinel)搭建

發布時間:2023/12/18 数据库 35 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Redis-ha(sentinel)搭建 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

服務器描述:本次搭建是用來測試,所以是在一臺服務器上搭建三個redis服務(一主兩從)

服務角色

端口

Redis.conf名稱

sentinel配置文件名稱

sentinel端口

redis日志路徑

sentinel路勁

主(master)

6379

redis.conf

sentinel.conf

26379

/home/zhangxs/data/redislog/redis_server/master.log

/home/zhangxs/data/redislog/sentinel/sentinel6379.log

從(slave)

6380

redis_slave6380.conf

Sentinel6380.conf

26380

/home/zhangxs/data/redislog/redis_server/slave6380.log

/home/zhangxs/data/redislog/sentinel/sentinel6380.log

從(slave)

6381

redis_slave6381.conf

Sentinel6381.conf

26381

/home/zhangxs/data/redislog/redis_server/slave6381.log

/home/zhangxs/data/redislog/sentinel/sentinel6381.log

?

修改配置文件

  • 1: redis.conf

修改redis服務日志路徑:logfile "/home/zhangxs/data/redislog/redis_server/master.log"

其他沒有修改,使用的是默認配置

?

  • 2:redis_slave6380.conf 和redis_slave6381.conf? (copy redis_slave.conf)
  • 設置他們指向的master服務的ip和端口:slaveof 127.0.0.1 6379(兩個文件都配置)
  • 修改redis_slave6380.conf 和redis_slave6381.conf 端口:redis_slave6380.conf? 端口為26380 ; redis_slave6381.conf 端口為26381
  • 設置slave服務日志路徑: logfile /home/zhangxs/data/redislog/redis_server/slave6380.log 和 logfile /home/zhangxs/data/redislog/redis_server/slave6381.log
  • ?

    • 3:sentinel.conf
  • 修改日志路徑:logfile "/home/zhangxs/data/redislog/sentinel/sentinel6379.log"
  • ?

    • 4:Sentinel6380.conf 和 Sentinel6381.conf (copy sentinel.conf)
  • 修改端口號:Sentinel6380.conf 改為 26380;?? Sentinel6381.conf 改為 26381;
  • 修改日志路徑:logfile "/home/zhangxs/data/redislog/sentinel/sentinel6380.log" 和?logfile "/home/zhangxs/data/redislog/sentinel/sentinel6381.log"
  • ?

    ?

    上面配置好后,啟動redis服務

    • 1:啟動master
    src/redis-server redis.conf&

    ?

    • 2:啟動從服務(slave6380)
    src/redis-server redis_slave6380.conf &

    ?

    查看主服務日志,會發現多出來一段

    2755:M 29 Jul 00:13:25.469 * Starting BGSAVE for SYNC with target: disk 2755:M 29 Jul 00:13:25.502 * Background saving started by pid 2784 2784:C 29 Jul 00:13:25.608 * DB saved on disk 2784:C 29 Jul 00:13:25.608 * RDB: 6 MB of memory used by copy-on-write 2755:M 29 Jul 00:13:25.677 * Background saving terminated with success 2755:M 29 Jul 00:13:25.677 * Synchronization with slave 127.0.0.1:6380 succeeded //同步到從服務127.0.0.1:6380成功

    ?

    查看從服務日志slave6380.log

    2780:S 29 Jul 00:13:25.436 * DB loaded from disk: 0.007 seconds 2780:S 29 Jul 00:13:25.436 * Before turning into a slave, using my master parameters to synthesize a cached master: I may be able to synchronize with the new master with just a partial transfer. 2780:S 29 Jul 00:13:25.436 * Ready to accept connections 2780:S 29 Jul 00:13:25.436 * Connecting to MASTER 127.0.0.1:6379 //正在連接master服務 2780:S 29 Jul 00:13:25.436 * MASTER <-> SLAVE sync started //master到slave 啟動同步 2780:S 29 Jul 00:13:25.436 * Non blocking connect for SYNC fired the event. 2780:S 29 Jul 00:13:25.436 * Master replied to PING, replication can continue... 2780:S 29 Jul 00:13:25.436 * Trying a partial resynchronization (request a26696cff5d35f38896c4eb068f71adbb7cfc421:474104). 2780:S 29 Jul 00:13:25.577 * Full resync from master: 541cd938f43b4f144e647881af409fa1884ea5a4:0 //從master全量同步 2780:S 29 Jul 00:13:25.577 * Discarding previously cached master state.//丟棄之前緩存的master狀態 2780:S 29 Jul 00:13:25.677 * MASTER <-> SLAVE sync: receiving 250 bytes from master //slave從master 同步250個字節 2780:S 29 Jul 00:13:25.677 * MASTER <-> SLAVE sync: Flushing old data 2780:S 29 Jul 00:13:25.677 * MASTER <-> SLAVE sync: Loading DB in memory 2780:S 29 Jul 00:13:25.678 * MASTER <-> SLAVE sync: Finished with success

    ?

    • 3:啟動從服務(slave6381)
    src/redis-server redis_slave6381.conf &

    ?

    查看主服務日志,會發現多出來一段

    //從服務127.0.0.1:6381發送同步請求
    2755:M 29 Jul 00:26:46.531 * Slave 127.0.0.1:6381 asks for synchronization //接受127.0.1:6381的部分重同步請求。從偏移量1開始發送積壓的1106字節 2755:M 29 Jul 00:26:46.531 * Partial resynchronization request from 127.0.0.1:6381 accepted. Sending 1106 bytes of backlog starting from offset 1.

    ?

    查看從服務日志slave6381.log

    2809:S 29 Jul 00:26:46.531 * DB loaded from disk: 0.000 seconds 2809:S 29 Jul 00:26:46.531 * Before turning into a slave, using my master parameters to synthesize a cached master: I may be able to synchronize with the new master with just a partial transfer. 2809:S 29 Jul 00:26:46.531 * Ready to accept connections 2809:S 29 Jul 00:26:46.531 * Connecting to MASTER 127.0.0.1:6379 2809:S 29 Jul 00:26:46.531 * MASTER <-> SLAVE sync started 2809:S 29 Jul 00:26:46.531 * Non blocking connect for SYNC fired the event. 2809:S 29 Jul 00:26:46.531 * Master replied to PING, replication can continue... 2809:S 29 Jul 00:26:46.531 * Trying a partial resynchronization (request 541cd938f43b4f144e647881af409fa1884ea5a4:1). 2809:S 29 Jul 00:26:46.531 * Successful partial resynchronization with master. 2809:S 29 Jul 00:26:46.532 * MASTER <-> SLAVE sync: Master accepted a Partial Resynchronization

    ?

    • 4:測試數據同步功能(使用redis-cli 連接服務器)

    1:連接master

    [root@vm1 src]# redis-cli -h 127.0.0.1 -p 6379 127.0.0.1:6379> set name fj

    ?

    2:連接slave6380

    [root@vm1 src]# redis-cli -h 127.0.0.1 -p 6380 127.0.0.1:6380> get name "fj" 127.0.0.1:6380>

    ?

    3:連接slave6381

    [root@vm1 src]# redis-cli -h 127.0.0.1 -p 6381 127.0.0.1:6381> get name "fj" 127.0.0.1:6381>

    ?

    Ok 主從同步沒有問題。

    默認情況下從服務是不允許set數據的,測試下

    127.0.0.1:6380> set name hello (error) READONLY You can't write against a read only slave. 127.0.0.1:6380> 127.0.0.1:6381> set name hello (error) READONLY You can't write against a read only slave. 127.0.0.1:6381>

    ?

    啟動各個服務的sentinel

    ?

    • 啟動sentinel6379
    src/redis-sentinel sentinel.conf &

    ?

    • 查看Sentinel6379.log
    2908:X 29 Jul 01:01:32.838 # oO0OoO0OoO0Oo Redis is starting oO0OoO0OoO0Oo 2908:X 29 Jul 01:01:32.839 # Redis version=4.0.10, bits=64, commit=00000000, modified=0, pid=2908, just started 2908:X 29 Jul 01:01:32.839 # Configuration loaded 2908:X 29 Jul 01:01:32.839 * Increased maximum number of open files to 10032 (it was originally set to 1024). 2908:X 29 Jul 01:01:32.840 * Running mode=sentinel, port=26379. 2908:X 29 Jul 01:01:32.840 # WARNING: The TCP backlog setting of 511 cannot be enforced because /proc/sys/net/core/somaxconn is set to the lower value of 128. 2908:X 29 Jul 01:01:32.855 # Sentinel ID is 1a77392638e41bb0ea0a865ffc93b8de6335227f 2908:X 29 Jul 01:01:32.855 # +monitor master mymaster 127.0.0.1 6379 quorum 2 //一個新的從服務器已經被sentinel識別并關聯 2908:X 29 Jul 01:01:32.856 * +slave slave 127.0.0.1:6380 127.0.0.1 6380 @ mymaster 127.0.0.1 6379 2908:X 29 Jul 01:01:32.858 * +slave slave 127.0.0.1:6381 127.0.0.1 6381 @ mymaster 127.0.0.1 6379

    ?

    • 啟動sentinel6380
    src/redis-sentinel sentinel6380.conf &

    ?

    • 查看 Sentinel6380.log
    2937:X 29 Jul 01:08:14.325 # Redis version=4.0.10, bits=64, commit=00000000, modified=0, pid=2937, just started 2937:X 29 Jul 01:08:14.325 # Configuration loaded 2937:X 29 Jul 01:08:14.327 * Increased maximum number of open files to 10032 (it was originally set to 1024). 2937:X 29 Jul 01:08:14.377 * Running mode=sentinel, port=26380. 2937:X 29 Jul 01:08:14.377 # WARNING: The TCP backlog setting of 511 cannot be enforced because /proc/sys/net/core/somaxconn is set to the lower value of 128. 2937:X 29 Jul 01:08:14.379 # Sentinel ID is 4a6aebffdd1301bf054e722c34e8a6611418ba8a 2937:X 29 Jul 01:08:14.379 # +monitor master mymaster 127.0.0.1 6379 quorum 2 2937:X 29 Jul 01:08:14.380 * +slave slave 127.0.0.1:6380 127.0.0.1 6380 @ mymaster 127.0.0.1 6379 2937:X 29 Jul 01:08:14.381 * +slave slave 127.0.0.1:6381 127.0.0.1 6381 @ mymaster 127.0.0.1 6379 //一個新的sentinel(監控)已經被識別并關聯 2937:X 29 Jul 01:08:14.919 * +sentinel sentinel 1a77392638e41bb0ea0a865ffc93b8de6335227f 127.0.0.1 26379 @ mymaster 127.0.0.1 6379

    ?

    • Sentinel6380啟動后會發現,Sentinel6379.log 加了一段日志
    //一個新的sentinel(監控)已經被識別并關聯 2908:X 29 Jul 01:08:16.367 * +sentinel sentinel 4a6aebffdd1301bf054e722c34e8a6611418ba8a 127.0.0.1 26380 @ mymaster 127.0.0.1 6379

    新啟動一個sentinel,會通過發布訂閱功能自動發現監控相同master下的其他sentinel。這一功能是通過向頻道 sentinel:hello 發送信息來實現的。

    ?

    • 啟動sentinel6381
    [root@vm1 redis-4.0.10]# src/redis-sentinel sentinel6381.conf &

    ?

    查看 Sentinel6381.log

    2961:X 29 Jul 01:11:09.823 # Configuration loaded 2961:X 29 Jul 01:11:09.823 * Increased maximum number of open files to 10032 (it was originally set to 1024). 2961:X 29 Jul 01:11:09.852 * Running mode=sentinel, port=26381. 2961:X 29 Jul 01:11:09.852 # WARNING: The TCP backlog setting of 511 cannot be enforced because /proc/sys/net/core/somaxconn is set to the lower value of 128. 2961:X 29 Jul 01:11:09.853 # Sentinel ID is 1db1a4dcdf0ecca00b64d9362c2a2dd338da0030 2961:X 29 Jul 01:11:09.853 # +monitor master mymaster 127.0.0.1 6379 quorum 2 2961:X 29 Jul 01:11:09.853 * +slave slave 127.0.0.1:6380 127.0.0.1 6380 @ mymaster 127.0.0.1 6379 2961:X 29 Jul 01:11:09.855 * +slave slave 127.0.0.1:6381 127.0.0.1 6381 @ mymaster 127.0.0.1 6379 2961:X 29 Jul 01:11:10.334 * +sentinel sentinel 1a77392638e41bb0ea0a865ffc93b8de6335227f 127.0.0.1 26379 @ mymaster 127.0.0.1 6379 2961:X 29 Jul 01:11:11.446 * +sentinel sentinel 4a6aebffdd1301bf054e722c34e8a6611418ba8a 127.0.0.1 26380 @ mymaster 127.0.0.1 6379

    ?

    ?

    • 新加入的sentinel6381, sentinel6379和sentinel6380 都會收到通知(//一個新的sentinel(監控)已經被識別并關聯)

    2908:X 29 Jul 01:11:11.880 * +sentinel sentinel 1db1a4dcdf0ecca00b64d9362c2a2dd338da0030 127.0.0.1 26381 @ mymaster 127.0.0.1 6379

    2937:X 29 Jul 01:11:11.878 * +sentinel sentinel 1db1a4dcdf0ecca00b64d9362c2a2dd338da0030 127.0.0.1 26381 @ mymaster 127.0.0.1 6379

    ?

    sentinel的狀態都會記錄到sentinel.conf文件中,用于啟動后恢復狀態,查看下各個sentinel.conf 文件 變動后的部分

    • sentinel.conf

    啟動前:無???? 啟動后:sentinel myid 1a77392638e41bb0ea0a865ffc93b8de6335227f //自己的sentinel myid

    啟動前:無???? 啟動后:

    # Generated by CONFIG REWRITE

    #master下得兩個從服務

    sentinel known-slave mymaster 127.0.0.1 6380

    sentinel known-slave mymaster 127.0.0.1 6381

    #master下其他兩個sentinel

    sentinel known-sentinel mymaster 127.0.0.1 26380 4a6aebffdd1301bf054e722c34e8a6611418ba8a

    sentinel known-sentinel mymaster 127.0.0.1 26381 1db1a4dcdf0ecca00b64d9362c2a2dd338da0030

    sentinel current-epoch 0

    ?

    Sentinel6380.conf和Sentinel6381.conf改動和sentinel.conf 基本一樣。不一樣的就是 記錄自己sentinel myid和master下其他兩個sentinel不一樣,大同小異。

    ?

    測試故障遷移

    Sentinel 故障遷移我使用的是默認配置(不需要再配置,可以自定義修改)

    //判斷master失效,至少有兩個sentinel同意才會執行故障遷移
    sentinel monitor mymaster 127.0.0.1 6379 2 //如果在10秒內sentinel 都收到master的一次有效回復,就認為該master主觀下線 sentinel down-after-milliseconds mymaster 60000 sentinel failover-timeout mymaster 180000
    //在執行故障轉移時,同時只有一個slave能對新的master進行數據同步
    sentinel parallel-syncs mymaster 1
    sentinel monitor resque 192.168.1.3 6380 4
    sentinel down-after-milliseconds resque 10000
    sentinel failover-timeout resque 180000
    sentinel parallel-syncs resque 5

    ?

    • 1:查看redis的相關服務
    root 2755 2551 0 00:11 pts/2 00:00:06 src/redis-server 127.0.0.1:6379 root 2780 2551 0 00:13 pts/2 00:00:06 src/redis-server 127.0.0.1:6380 root 2809 2551 0 00:26 pts/2 00:00:05 src/redis-server 127.0.0.1:6381 root 2816 2529 0 00:30 pts/1 00:00:00 redis-cli -h 127.0.0.1 -p 6379 root 2822 2530 0 00:33 pts/0 00:00:00 redis-cli -h 127.0.0.1 -p 6380 root 2841 2823 0 00:34 pts/6 00:00:00 redis-cli -h 127.0.0.1 -p 6381 root 2908 2551 0 01:01 pts/2 00:00:07 src/redis-sentinel *:26379 [sentinel] root 2937 2551 0 01:08 pts/2 00:00:06 src/redis-sentinel *:26380 [sentinel] root 2961 2551 0 01:11 pts/2 00:00:06 src/redis-sentinel *:26381 [sentinel] root 3000 2551 0 01:50 pts/2 00:00:00 grep --color=auto redis

    ?

    ?

    • 2:查看整個備份狀態
    127.0.0.1:6379> info# Server # Clients # Memory # Persistence # Stats # Replication role:master connected_slaves:2 slave0:ip=127.0.0.1,port=6380,state=online,offset=544591,lag=0 slave1:ip=127.0.0.1,port=6381,state=online,offset=544591,lag=0 master_replid:541cd938f43b4f144e647881af409fa1884ea5a4 master_replid2:0000000000000000000000000000000000000000 master_repl_offset:544857 second_repl_offset:-1 repl_backlog_active:1 repl_backlog_size:1048576 repl_backlog_first_byte_offset:1 repl_backlog_histlen:544857 # CPU# Cluster# Keyspace

    ?

    其他信息我都刪掉了,只留下【Replication】的信息,其他信息可以在redis-cli 命令行中使用【info】命令查看

    可以看到,6379是master角色,master下有兩個從服務port=6380,port=6381

    ?

    • 3: Kill 掉 master,觀察日志
    kill -9 2755

    ?

    master被干掉了,所以master.log 沒有日志,看其他兩個從服務日志(截取部分)

    redis_slave6380.log

    ///一分鐘內 2780:S 29 Jul 01:58:53.414 # Connection with master lost. 2780:S 29 Jul 01:58:53.414 * Caching the disconnected master state. 2780:S 29 Jul 01:58:54.163 * Connecting to MASTER 127.0.0.1:6379 2780:S 29 Jul 01:58:54.163 * MASTER <-> SLAVE sync started 2780:S 29 Jul 01:58:54.164 # Error condition on socket for SYNC: Connection refused 2780:S 29 Jul 01:58:55.168 * Connecting to MASTER 127.0.0.1:6379 2780:S 29 Jul 01:58:55.169 * MASTER <-> SLAVE sync started .... ... ... 2780:S 29 Jul 01:59:22.381 # Error condition on socket for SYNC: Connection refused 2780:S 29 Jul 01:59:23.389 * Connecting to MASTER 127.0.0.1:6379 2780:S 29 Jul 01:59:23.389 * MASTER <-> SLAVE sync started 2780:S 29 Jul 01:59:23.389 # Error condition on socket for SYNC: Connection refused ///一分鐘后 2780:S 29 Jul 01:59:24.321 * SLAVE OF 127.0.0.1:6381 enabled (user request from 'id=8 addr=127.0.0.1:52556 fd=11 name=sentinel-4a6aebff-cmd age=3070 idle=0 flags=x db=0 sub=0 psub=0 multi=3 qbuf=133 qbuf-free=32635 obl=36 oll=0 omem=0 events=r cmd=exec') 2780:S 29 Jul 01:59:24.323 # CONFIG REWRITE executed with suc 2780:S 29 Jul 01:59:24.399 * Connecting to MASTER 127.0.0.1:6381 2780:S 29 Jul 01:59:24.399 * MASTER <-> SLAVE sync started 2780:S 29 Jul 01:59:24.399 * Non blocking connect for SYNC fired the event. 2780:S 29 Jul 01:59:24.399 * Master replied to PING, replication can continue... 2780:S 29 Jul 01:59:24.399 * Trying a partial resynchronization (request 541cd938f43b4f144e647881af409fa1884ea5a4:617714). 2780:S 29 Jul 01:59:24.400 * Successful partial resynchronization with master. 2780:S 29 Jul 01:59:24.400 # Master replication ID changed to 514edab0972b4b6e5388edc4f14fbdb4d223d39e 2780:S 29 Jul 01:59:24.400 * MASTER <-> SLAVE sync: Master accepted a Partial Resynchronization.

    ?

    從01:58:53.414 到01:59:23.389 這一分鐘內一直在嘗試連接master,一分鐘內沒有連接成功后,sentinel 就會master判斷為主觀下線,看日志

    Sentinel6379.log

    //判定master 主觀下線 2908:X 29 Jul 01:59:23.492 # +sdown master mymaster 127.0.0.1 6379 //當前的紀元(epoch)已經被更新。 2908:X 29 Jul 01:59:23.546 # +new-epoch 1 //開始給sentinel6380投票,誰來主導這次故障轉移 2908:X 29 Jul 01:59:23.549 # +vote-for-leader 4a6aebffdd1301bf054e722c34e8a6611418ba8a 1 //判定master 客觀觀下線,已經有2個sentinel同意 2908:X 29 Jul 01:59:23.569 # +odown master mymaster 127.0.0.1 6379 #quorum 3/2 2908:X 29 Jul 01:59:23.569 # Next failover delay: I will not start a failover before Sun Jul 29 02:05:23 2018 2908:X 29 Jul 01:59:24.328 # +config-update-from sentinel 4a6aebffdd1301bf054e722c34e8a6611418ba8a 127.0.0.1 26380 @ mymaster 127.0.0.1 6379 2908:X 29 Jul 01:59:24.328 # +switch-master mymaster 127.0.0.1 6379 127.0.0.1 6381 2908:X 29 Jul 01:59:24.328 * +slave slave 127.0.0.1:6380 127.0.0.1 6380 @ mymaster 127.0.0.1 6381 2908:X 29 Jul 01:59:24.328 * +slave slave 127.0.0.1:6379 127.0.0.1 6379 @ mymaster 127.0.0.1 6381 2908:X 29 Jul 01:59:54.333 # +sdown slave 127.0.0.1:6379 127.0.0.1 6379 @ mymaster 127.0.0.1 6381

    ?

    ?

    Sentinel6380.log

    //判定master 主觀下線 2937:X 29 Jul 01:59:23.459 # +sdown master mymaster 127.0.0.1 6379 //判定master 客觀觀下線,已經有2個sentinel同意 2937:X 29 Jul 01:59:23.536 # +odown master mymaster 127.0.0.1 6379 #quorum 2/2 2937:X 29 Jul 01:59:23.537 # +new-epoch 1 //嘗試故障轉移master 2937:X 29 Jul 01:59:23.537 # +try-failover master mymaster 127.0.0.1 6379 //開始給sentinel6380投票,誰來主導這次故障轉移 2937:X 29 Jul 01:59:23.540 # +vote-for-leader 4a6aebffdd1301bf054e722c34e8a6611418ba8a 1 //其他兩個sentinel 都投票給4a6aebffdd1301bf054e722c34e8a6611418ba8a 【6380sentinel】 2937:X 29 Jul 01:59:23.549 # 1db1a4dcdf0ecca00b64d9362c2a2dd338da0030 voted for 4a6aebffdd1301bf054e722c34e8a6611418ba8a 1 2937:X 29 Jul 01:59:23.549 # 1a77392638e41bb0ea0a865ffc93b8de6335227f voted for 4a6aebffdd1301bf054e722c34e8a6611418ba8a 1 //6379這個服務贏得選舉可以進行故障轉移 2937:X 29 Jul 01:59:23.619 # +elected-leader master mymaster 127.0.0.1 6379 //發現6379這個服務是故障轉移狀態,就開始選擇master下得從服務 2937:X 29 Jul 01:59:23.619 # +failover-state-select-slave master mymaster 127.0.0.1 6379 //故障轉移操作現在處于 select-slave 狀態 —— Sentinel 正在尋找可以升級為主服務器的從服務器。(選擇mymaster 127.0.0.1 6379 下 6381 的從服務) 2937:X 29 Jul 01:59:23.710 # +selected-slave slave 127.0.0.1:6381 127.0.0.1 6381 @ mymaster 127.0.0.1 6379 //Sentinel 正在將6379下的從服務器6381升級為主服務器,等待升級功能完成。 2937:X 29 Jul 01:59:23.710 * +failover-state-send-slaveof-noone slave 127.0.0.1:6381 127.0.0.1 6381 @ mymaster 127.0.0.1 6379 //master下的從服務 6381 等待升級 2937:X 29 Jul 01:59:23.769 * +failover-state-wait-promotion slave 127.0.0.1:6381 127.0.0.1 6381 @ mymaster 127.0.0.1 6379 //升級master下從服務6381 2937:X 29 Jul 01:59:24.251 # +promoted-slave slave 127.0.0.1:6381 127.0.0.1 6381 @ mymaster 127.0.0.1 6379 //故障轉移狀態切換到了 reconf-slaves 狀態。(再次確認從服務器轉為主服務器) 2937:X 29 Jul 01:59:24.251 # +failover-state-reconf-slaves master mymaster 127.0.0.1 6379 //牽頭的sentinel 向6380從服務器發送slaveof 指令,將它設置為新的master 2937:X 29 Jul 01:59:24.321 * +slave-reconf-sent slave 127.0.0.1:6380 127.0.0.1 6380 @ mymaster 127.0.0.1 6379 //6379不再處于客觀下線狀態,客觀下線狀態只用于master服務,6379已經不是master了 2937:X 29 Jul 01:59:24.653 # -odown master mymaster 127.0.0.1 6379 //6380服務正在將自己設置為6381主服務的從服務器,還未完成 2937:X 29 Jul 01:59:25.270 * +slave-reconf-inprog slave 127.0.0.1:6380 127.0.0.1 6380 @ mymaster 127.0.0.1 6379 //從服務器6380已經完成對新master服務的同步 2937:X 29 Jul 01:59:25.271 * +slave-reconf-done slave 127.0.0.1:6380 127.0.0.1 6380 @ mymaster 127.0.0.1 6379 //master6379 故障轉移結束,所有的從服務器開始同步新的master 2937:X 29 Jul 01:59:25.347 # +failover-end master mymaster 127.0.0.1 6379 //配置變更主服務器的ip地址已經改變, 選擇master 為6381 2937:X 29 Jul 01:59:25.347 # +switch-master mymaster 127.0.0.1 6379 127.0.0.1 6381 //6381下的兩個從服務(新的從服務被識別并關聯) 2937:X 29 Jul 01:59:25.347 * +slave slave 127.0.0.1:6380 127.0.0.1 6380 @ mymaster 127.0.0.1 6381 2937:X 29 Jul 01:59:25.347 * +slave slave 127.0.0.1:6379 127.0.0.1 6379 @ mymaster 127.0.0.1 6381 //添加master下從服務6379 為客觀下線 2937:X 29 Jul 01:59:55.401 # +sdown slave 127.0.0.1:6379 127.0.0.1 6379 @ mymaster 127.0.0.1 6381

    ?

    ?

    Sentinel6381.log

    //判定master 主觀下線
    2961:X 29 Jul 01:59:23.459 # +sdown master mymaster 127.0.0.1 6379 2961:X 29 Jul 01:59:23.545 # +new-epoch 1
    //開始給6380投票 2961:X 29 Jul 01:59:23.548 # +vote-for-leader 4a6aebffdd1301bf054e722c34e8a6611418ba8a 1 2961:X 29 Jul 01:59:24.325 # +config-update-from sentinel 4a6aebffdd1301bf054e722c34e8a6611418ba8a 127.0.0.1 26380 @ mymaster 127.0.0.1 6379 2961:X 29 Jul 01:59:24.325 # +switch-master mymaster 127.0.0.1 6379 127.0.0.1 6381 2961:X 29 Jul 01:59:24.325 * +slave slave 127.0.0.1:6380 127.0.0.1 6380 @ mymaster 127.0.0.1 6381 2961:X 29 Jul 01:59:24.325 * +slave slave 127.0.0.1:6379 127.0.0.1 6379 @ mymaster 127.0.0.1 6381 2961:X 29 Jul 01:59:54.348 # +sdown slave 127.0.0.1:6379 127.0.0.1 6379 @ mymaster 127.0.0.1 6381

    可以看到在 01:59:23秒 也就是一分鐘之后,三個監控master的sentinel 都判定了master為主觀下線(sdown),我們配置的至少有2個sentinel 同意master 主觀下線,master就會被切換到客觀下線(odown) 【+odown master mymaster 127.0.0.1 6379 #quorum 2/2】。當判斷master為客觀下線后,sentinel 就開始選舉出新的master,可以看到Sentinel6380.log 日志要比其他的sentinel.log多,因為整個選舉的過程是Sentinel6380 在牽頭執行。

    ?

    4:在6381下查看整個服務的備份狀態

    # Replication role:master connected_slaves:1 slave0:ip=127.0.0.1,port=6380,state=online,offset=1125775,lag=0 master_replid:514edab0972b4b6e5388edc4f14fbdb4d223d39e master_replid2:541cd938f43b4f144e647881af409fa1884ea5a4 master_repl_offset:1125775 second_repl_offset:617714 repl_backlog_active:1 repl_backlog_size:1048576 repl_backlog_first_byte_offset:77200 repl_backlog_histlen:1048576

    可以看到6381的角色成為了master,只有一個slave,因為另一個掛了。

    ?

    5:再次啟動6379服務

    查看6379服務的日志

    3037:S 29 Jul 02:46:47.753 # CONFIG REWRITE executed with success.
    3037:S 29 Jul 02:46:48.359 * Connecting to MASTER 127.0.0.1:6381
    3037:S 29 Jul 02:46:48.360 * MASTER <-> SLAVE sync started
    3037:S 29 Jul 02:46:48.360 * Non blocking connect for SYNC fired the event.
    3037:S 29 Jul 02:46:48.361 * Master replied to PING, replication can continue...
    3037:S 29 Jul 02:46:48.362 * Trying a partial resynchronization (request 7b0dc6ac9c2188e3c92eb29eea200ea6c572619c:1).
    3037:S 29 Jul 02:46:48.608 * Full resync from master: 514edab0972b4b6e5388edc4f14fbdb4d223d39e:1178142
    3037:S 29 Jul 02:46:48.608 * Discarding previously cached master state.
    3037:S 29 Jul 02:46:48.708 * MASTER <-> SLAVE sync: receiving 253 bytes from master
    3037:S 29 Jul 02:46:48.708 * MASTER <-> SLAVE sync: Flushing old data
    3037:S 29 Jul 02:46:48.708 * MASTER <-> SLAVE sync: Loading DB in memory
    3037:S 29 Jul 02:46:48.708 * MASTER <-> SLAVE sync: Finished with success
    3037:S 29 Jul 02:46:48.709 * Background append only file rewriting started by pid 3042
    3037:S 29 Jul 02:46:48.750 * AOF rewrite child asks to stop sending diffs.
    3042:C 29 Jul 02:46:48.750 * Parent agreed to stop sending diffs. Finalizing AOF...
    3042:C 29 Jul 02:46:48.750 * Concatenating 0.00 MB of AOF diff received from parent.
    3042:C 29 Jul 02:46:48.750 * SYNC append only file rewrite performed
    3042:C 29 Jul 02:46:48.750 * AOF rewrite: 6 MB of memory used by copy-on-write
    3037:S 29 Jul 02:46:48.781 * Background AOF rewrite terminated with success
    3037:S 29 Jul 02:46:48.782 * Residual parent diff successfully flushed to the rewritten AOF (0.00 MB)
    3037:S 29 Jul 02:46:48.782 * Background AOF rewrite finished successfully

    ?

    看到啟動后重寫配置文件,然后自動連接6381這個新的master服務,開始從master 上全量同步數據

    ?

    查看6381這個新master日志

    ?

    //響應6379的同步請求
    2809:M 29 Jul 02:46:48.362 * Slave 127.0.0.1:6379 asks for synchronization //不接受同步部分數據請求 2809:M 29 Jul 02:46:48.362 * Partial resynchronization not accepted: Replication ID mismatch (Slave asked for '7b0dc6ac9c2188e3c92eb29eea200ea6c572619c', my replication IDs are '514edab0972b4b6e5388edc4f14fbdb4d223d39e' and '541cd938f43b4f144e647881af409fa1884ea5a4') //開始同步 2809:M 29 Jul 02:46:48.362 * Starting BGSAVE for SYNC with target: disk 2809:M 29 Jul 02:46:48.607 * Background saving started by pid 3041 3041:C 29 Jul 02:46:48.607 * DB saved on disk #6m內存用于寫復制 3041:C 29 Jul 02:46:48.608 * RDB: 6 MB of memory used by copy-on-write //后臺保存成功 2809:M 29 Jul 02:46:48.708 * Background saving terminated with success 2809:M 29 Jul 02:46:48.708 * Synchronization with slave 127.0.0.1:6379 succeeded

    ?

    查看sentinel日志

    6379sentinel.log

    //減去6379服務的主觀下線狀態 2908:X 29 Jul 02:46:37.610 # -sdown slave 127.0.0.1:6379 127.0.0.1 6379 @ mymaster 127.0.0.1 6381 //轉換為master6381 下的從服務 2908:X 29 Jul 02:46:47.628 * +convert-to-slave slave 127.0.0.1:6379 127.0.0.1 6379 @ mymaster 127.0.0.1 6381

    ?

    6380sentinel.log

    2937:X 29 Jul 02:46:37.767 # -sdown slave 127.0.0.1:6379 127.0.0.1 6379 @ mymaster 127.0.0.1 6381

    ?

    6381sentinel.log

    2961:X 29 Jul 02:46:38.023 # -sdown slave 127.0.0.1:6379 127.0.0.1 6379 @ mymaster 127.0.0.1 6381

    ?

    再看下6381這個新master的整個備份信息

    # Replication role:master connected_slaves:2 slave0:ip=127.0.0.1,port=6380,state=online,offset=1348132,lag=0 slave1:ip=127.0.0.1,port=6379,state=online,offset=1348132,lag=0 master_replid:514edab0972b4b6e5388edc4f14fbdb4d223d39e master_replid2:541cd938f43b4f144e647881af409fa1884ea5a4 master_repl_offset:1348132 second_repl_offset:617714 repl_backlog_active:1 repl_backlog_size:1048576 repl_backlog_first_byte_offset:299557 repl_backlog_histlen:1048576

    新的master 增加了一個slave6379 從服務

    ?

    我們再搭建前做的redis配置,當故障轉移成功后,這些配置會被重寫,重寫的內容基本都在配置文件的最后

    Redis.conf配置文件,多了

    # Generated by CONFIG REWRITE slaveof 127.0.0.1 6381

    ?

    Redis6381.conf配置文件沒有變

    # Master-Slave replication. Use slaveof to make a Redis instance a copy of # slaveof <masterip> <masterport> slaveof 127.0.0.1 6381

    ?

    新的master配置,也就是redis_slave6381.conf 已經沒有了slaveof 配置

    # Master-Slave replication. Use slaveof to make a Redis instance a copy of # slaveof <masterip> <masterport>

    Sentinel.conf 也會發生變化,可以自己去看看

    ?

    6:再次測試故障轉移后的 同步功能

    之前的master已經不再支持set

    127.0.0.1:6379> set name zhangxs (error) READONLY You can't write against a read only slave.

    新master set成功

    127.0.0.1:6381> set name zhangxs OK 127.0.0.1:6379> get name "zhangxs" 127.0.0.1:6380> get name "zhangxs"

    同步沒問題。

    ?

    轉移后的服務器變成了

    服務角色

    端口

    Redis.conf名稱

    sentinel配置文件名稱

    sentinel端口

    redis日志路徑

    sentinel路勁

    從(master)

    6379

    redis.conf

    sentinel.conf

    26379

    /home/zhangxs/data/redislog/redis_server/master.log

    /home/zhangxs/data/redislog/sentinel/sentinel6379.log

    從(slave)

    6380

    redis_slave6380.conf

    Sentinel6380.conf

    26380

    /home/zhangxs/data/redislog/redis_server/slave6380.log

    /home/zhangxs/data/redislog/sentinel/sentinel6380.log

    主(slave)

    6381

    redis_slave6381.conf

    Sentinel6381.conf

    26381

    /home/zhangxs/data/redislog/redis_server/slave6381.log

    /home/zhangxs/data/redislog/sentinel/sentinel6381.log

    ?

    ?

    ?

    參考文檔:http://www.redis.cn/topics

    轉載于:https://www.cnblogs.com/zhangXingSheng/p/9385885.html

    創作挑戰賽新人創作獎勵來咯,堅持創作打卡瓜分現金大獎

    總結

    以上是生活随笔為你收集整理的Redis-ha(sentinel)搭建的全部內容,希望文章能夠幫你解決所遇到的問題。

    如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。

    99久久99久久综合 | 久久精品—区二区三区 | 欧美日韩国产在线精品 | 亚洲国产成人在线 | 五月天天色 | 婷婷色五| 国产麻豆果冻传媒在线观看 | 久艹视频免费观看 | 精品久久网站 | 日韩免费观看av | 久久综合激情 | 深爱婷婷久久综合 | 九九热在线视频免费观看 | 国模一二三区 | 成人av电影在线观看 | 在线高清一区 | 国产精品igao视频网入口 | 国产九九在线 | 欧美日韩高清一区 | 一级α片免费看 | 国产精品自产拍在线观看蜜 | 久久公开免费视频 | 免费福利在线 | 久久成人一区二区 | 91在线视频网址 | 国产精品18久久久久久久 | 欧美日韩中文在线观看 | 久久国产精品99国产 | 久久久久女人精品毛片九一 | 欧美中文字幕久久 | 欧美日韩性视频在线 | 欧美精品天堂 | 久久视影| 成人av在线直播 | 韩国中文三级 | 亚洲最大免费成人网 | 天天综合久久综合 | 免费高清在线观看电视网站 | 久久免费视频在线观看30 | 国产精品久久久777 成人手机在线视频 | 九色精品在线 | av成年人电影 | 国产中文字幕一区二区 | 国产精品无av码在线观看 | 久久资源总站 | 狠狠躁日日躁夜夜躁av | 久久66热这里只有精品 | 91亚瑟视频 | 91视频免费网站 | 日本在线观看黄色 | 色wwww| 欧美一二三专区 | 亚洲久在线 | 五月天激情婷婷 | 亚洲日本中文字幕在线观看 | 91爱爱免费观看 | av福利在线看 | 国产一区二区免费在线观看 | 国产精品一区二区 91 | 人人盈棋牌 | 夜又临在线观看 | 久久精品免费 | 欧美精品二区 | 狠狠干中文字幕 | 伊人伊成久久人综合网小说 | 久草av在线播放 | 丁香婷婷综合激情五月色 | 亚洲精品在线看 | 国产福利91精品一区二区三区 | 一区二区三区免费在线观看 | 免费亚洲成人 | 亚洲涩涩网 | 国产成人免费网站 | 欧洲高潮三级做爰 | 色综久久 | 欧美a在线看 | 亚洲成av | 97激情影院 | 亚洲香蕉视频 | 亚洲va欧美va人人爽春色影视 | 国产成人av网址 | 日本韩国中文字幕 | 亚洲日日夜夜 | 日韩精品一区二区三区免费视频观看 | 久久麻豆视频 | 在线亚洲播放 | 亚洲一二区视频 | av丁香 | 99热在| 黄色毛片视频 | av在线播放国产 | 国产精品11| 黄色成年 | www.国产视频 | 一区二区三区四区免费视频 | 国产视频资源 | 亚洲精品一区二区在线观看 | 婷婷精品国产一区二区三区日韩 | 色国产视频 | 人人爽人人澡人人添人人人人 | 97在线公开视频 | 国产玖玖在线 | 国产综合在线视频 | 久久网址| 亚洲成年人免费网站 | 国产精品欧美在线 | 国产男女爽爽爽免费视频 | 国产中文字幕一区二区 | 国产不卡高清 | 精品久久久久久国产偷窥 | 日韩在线播放av | 亚洲精品在线资源 | 天天干天天草天天爽 | 99久久精品国产观看 | 九九九九九国产 | 天天射射天天 | 免费日韩 精品中文字幕视频在线 | 国产精品国产三级国产专区53 | 婷婷九月激情 | 国产传媒中文字幕 | 日日精品 | 美女久久 | 91精品国产92久久久久 | 免费久久久 | 人人爽人人爽人人片 | 亚洲成人欧美 | 国产精品久久精品国产 | 国产精品久久久久久久99 | 国产香蕉在线 | 亚洲亚洲精品在线观看 | 免费亚洲黄色 | 一区二区视频在线看 | 99视频一区 | 亚洲成人av影片 | 日本三级大片 | 久久精品久久精品久久 | 免费视频久久 | 免费视频91 | 国产999精品久久久久久 | 一区在线观看 | 99精品国产99久久久久久福利 | 亚洲精品玖玖玖av在线看 | 青春草视频在线播放 | 久久香蕉国产精品麻豆粉嫩av | 色综合久久99 | 久久久久久久久久久影视 | 97超碰香蕉| 99国产视频在线 | 国产精品久久二区 | 高潮久久久久久 | 在线国产一区二区 | 久久综合狠狠综合久久狠狠色综合 | a天堂免费| 日韩精品无码一区二区三区 | 欧美日韩中字 | 中文字幕你懂的 | 91免费视频黄 | 欧美一区二区伦理片 | 国产精品毛片一区二区 | 麻豆视频观看 | 中文字幕免费高清 | 久久不色 | 久久 一区 | 精品在线视频一区二区三区 | 91豆花在线观看 | 国产粉嫩在线观看 | 国产精品一区二区免费视频 | 婷婷综合视频 | 一本—道久久a久久精品蜜桃 | 首页av在线 | 久久久影院| 欧美精品在线观看一区 | 成年人在线观看免费视频 | 337p日本欧洲亚洲大胆裸体艺术 | 狠狠干干 | 99久久精品免费看国产免费软件 | 麻豆va一区二区三区久久浪 | 国产精品成人国产乱一区 | 欧美精品天堂 | 国产 欧美 日本 | 97超碰色偷偷 | 亚洲欧洲精品在线 | 99在线热播 | 99热在线网站 | 欧美特一级 | 91av在线看| 日韩在线中文字幕 | 国产欧美精品一区二区三区四区 | 久久久久免费视频 | 久草在线在线精品观看 | 高清av不卡 | 欧美久久久久 | 黄色亚洲精品 | 91av手机在线观看 | 狠狠躁夜夜a产精品视频 | 在线观看黄色免费视频 | 亚洲国产精品久久 | 久久精选视频 | 91在线资源 | 日本精品久久久久久 | 日韩在线电影一区二区 | 欧美一二三在线 | 99riav1国产精品视频 | 91精选 | 在线综合 亚洲 欧美在线视频 | 久久香蕉国产精品麻豆粉嫩av | 成人蜜桃 | 久久99热国产 | 国产精品久久久久久久久久不蜜月 | 色94色欧美 | 欧美男男激情videos | 9在线观看免费高清完整版在线观看明 | 激情网站免费观看 | 91一区啪爱嗯打偷拍欧美 | 久久久久久久久久久久国产精品 | 久久综合久久八八 | 精品在线一区二区三区 | 国产69精品久久久久9999apgf | 国产精品久久久久久久久毛片 | 在线播放你懂 | 精品久久亚洲 | 欧美成人在线网站 | 久久久综合电影 | 午夜国产影院 | 午夜私人影院 | 午夜精品一区二区三区可下载 | 日韩久久视频 | 国产福利在线免费观看 | 亚洲午夜精品久久久久久久久 | 欧女人精69xxxxxx | 国产精品电影在线 | 欧美韩国日本在线 | 免费a网址 | 一区二区三区动漫 | 毛片永久免费 | 免费高清在线视频一区· | av观看免费在线 | 免费情趣视频 | 国产精品99久久久久久有的能看 | 久色小说 | 久久超碰99 | 91视频黄色 | 久久手机免费观看 | 日韩a级免费视频 | 亚洲精品黄色片 | 在线视频1卡二卡三卡 | 在线观看国产91 | 亚洲一区二区三区毛片 | 国产高清在线观看av | 成人国产一区二区 | 又污又黄网站 | 日韩精品一区二区免费 | 日韩视频在线观看免费 | 欧美伦理一区二区三区 | 激情小说久久 | 成在线播放 | 亚洲精品乱码白浆高清久久久久久 | 青青河边草观看完整版高清 | 一级黄色片在线观看 | 狠狠色噜噜狠狠狠狠2021天天 | 在线蜜桃视频 | www.天天草 | 亚洲综合激情五月 | 亚洲精品视频网站在线观看 | 视频一区二区免费 | 精品夜夜嗨av一区二区三区 | 久久a热6 | 国产99在线播放 | 99久久er热在这里只有精品66 | 人人爽人人香蕉 | 中文字幕在线观看一区二区 | 日韩a级免费视频 | 久久久www免费电影网 | 97成人在线视频 | 久久精品免费播放 | 视频成人| 在线免费视频a | 亚洲 欧美 国产 va在线影院 | 久久久久久蜜桃一区二区 | 日日夜夜天天久久 | 成人毛片100免费观看 | 一色av| 亚洲v欧美v国产v在线观看 | 日本高清dvd| 日韩无在线 | 色婷婷亚洲精品 | 在线观看亚洲成人 | 日韩免费一区 | 激情五月在线 | www在线观看国产 | 片网站| www.狠狠干 | 日韩精品一区二区三区免费视频观看 | 日本韩国精品一区二区在线观看 | 娇妻呻吟一区二区三区 | 九色福利视频 | 亚洲精品综合一区二区 | 国产黄色av网站 | 成人一区二区三区在线观看 | 亚洲一区不卡视频 | 色婷婷久久 | 99久久99久久精品国产片 | 91丨porny丨九色| 亚州欧美视频 | 精品91在线 | 久久久久国产精品免费免费搜索 | 精品国偷自产国产一区 | 99久久精品免费看国产 | 国产色区 | 伊人五月 | 五月天免费网站 | 91精品色 | 国产亚洲成av人片在线观看桃 | 国产精品18久久久久久久久 | 国产精品av免费观看 | 最近最新mv字幕免费观看 | 97国产大学生情侣酒店的特点 | 欧美日韩亚洲在线 | 久草青青在线观看 | 久久成人资源 | 久久福利影视 | 在线观看深夜福利 | 久久精品国产免费看久久精品 | 日韩专区在线播放 | 国产中文字幕网 | 欧美日韩三级在线观看 | av免费网站 | 亚洲精品1区2区3区 超碰成人网 | 国产精品婷婷午夜在线观看 | 91国内产香蕉 | 国产日女人| 久久精品www人人爽人人 | 美女网站视频免费都是黄 | 日韩专区av | 99在线视频网站 | 98涩涩国产露脸精品国产网 | 中文字幕一区二区在线观看 | 欧美在线观看禁18 | 毛片网站观看 | 五月婷婷综合在线 | 能在线观看的日韩av | a视频免费在线观看 | 丝袜美腿在线视频 | 夜夜操天天操 | 99久久婷婷国产精品综合 | 成人av电影免费在线观看 | 黄色三级网站 | 91精品视频观看 | 日日操狠狠干 | 日韩理论片在线观看 | a成人v| 成人精品视频久久久久 | 国产成人精品午夜在线播放 | 欧美狠狠操 | 一二区电影 | 亚洲成av人片一区二区梦乃 | 免费大片av | 久久久精品一区二区三区 | 国产精品色 | 久久精品欧美一区二区三区麻豆 | 久久在线观看视频 | 97人人澡人人添人人爽超碰 | 天天综合婷婷 | 国产免费区 | a在线观看免费视频 | 国产日韩欧美在线看 | 天天躁日日 | 狠狠干夜夜爽 | 日日干日日 | 免费三及片 | 91香蕉视频720p | 日韩精品欧美一区 | 丁香五香天综合情 | 日韩v欧美v日本v亚洲v国产v | 天天操比 | 亚洲精品免费视频 | 久久国产a | 日韩久久精品一区二区三区 | 天天爽天天搞 | 国产精品久久久久久久久久久久久久 | 国产久视频| 四虎国产精 | jizz18欧美18| 欧美性色19p | 国产成人黄色在线 | 国产精品久久久久久久久久久免费看 | 免费高清在线观看电视网站 | 色噜噜狠狠狠狠色综合久不 | 国产精品久久久久久久妇 | 国产成人一区二区三区电影 | 综合国产在线 | 久久午夜国产精品 | 99视频精品全部免费 在线 | 丝袜护士aⅴ在线白丝护士 天天综合精品 | 最新国产中文字幕 | 国产原创在线视频 | 亚洲精品www. | av在线免费不卡 | 久久婷婷国产 | 久久婷婷影视 | 亚洲电影成人 | 亚洲欧洲精品久久 | 视频二区在线视频 | av3级在线 | 亚洲视频网站在线观看 | 久久与婷婷 | 99视频网站 | 中文字幕有码在线 | 一级片免费观看 | 天天爽人人爽夜夜爽 | 久久狠狠干 | 国产美女在线精品免费观看 | 久久久久久久久久久久影院 | 国产香蕉97碰碰久久人人 | 91欧美视频网站 | 午夜免费久久看 | 91麻豆精品国产 | 欧美视频不卡 | 中文字幕高清视频 | 亚洲精品乱码久久久久久9色 | 手机在线欧美 | 久久久男人的天堂 | 国产精品一区二区美女视频免费看 | 丝袜av一区| 国产免费精彩视频 | 日本福利视频在线 | 99精品视频在线观看播放 | 久久精品www人人爽人人 | 成人黄色一级视频 | 亚洲一区美女视频在线观看免费 | 一个色综合网站 | 国产在线免费观看 | 91在线最新 | 国产成人精品一区在线 | 在线观看视频色 | 久久久电影网站 | 亚洲爱爱视频 | 婷婷av色综合 | 在线高清av| 九色91av| 黄色最新网址 | 国产精品久久久久久久久费观看 | 国产精品视频永久免费播放 | 激情综合久久 | 手机看片99 | 国产精品一区二区三区免费视频 | 久久只精品99品免费久23小说 | 色小说av| 国产乱码精品一区二区三区介绍 | 日韩免费在线一区 | 美女视频黄在线观看 | 91看片在线免费观看 | 免费观看v片在线观看 | 国产精品久免费的黄网站 | 91在线看 | 亚洲精品系列 | 中文在线中文资源 | 综合网天天射 | 欧美日韩中文在线观看 | 自拍超碰在线 | 久久精品视频3 | 日日草天天干 | 久久久久久国产精品美女 | 久草国产视频 | 久久福利剧场 | 91尤物在线播放 | 欧美亚洲一区二区在线 | 99视频在线精品国自产拍免费观看 | 亚洲性少妇性猛交wwww乱大交 | 97成人在线观看视频 | av片中文字幕 | 98涩涩国产露脸精品国产网 | 视频一区二区免费 | 五月婷婷黄色 | 国产中文字幕在线免费观看 | 国产精品电影一区二区 | 国产精品久久久久久久久久久久 | 亚洲一级电影 | 亚洲在线精品视频 | 免费观看国产成人 | 四虎成人网 | 久久精品国产v日韩v亚洲 | 日韩网站一区二区 | 欧美一级网站 | 久久久久99999 | 国产99色 | 欧美日韩午夜在线 | 在线观看视频黄色 | 中文有码在线视频 | 在线色资源 | 中文视频在线看 | 亚洲年轻女教师毛茸茸 | 韩日av一区二区 | 4438全国亚洲精品观看视频 | 国产高清av免费在线观看 | 天天干天天操天天操 | 久久永久免费视频 | 韩国在线一区二区 | 久久综合久久综合这里只有精品 | 久久狠狠一本精品综合网 | 亚洲精品在线观看视频 | 日本一区二区三区免费观看 | 国产99久久九九精品 | 97国产在线 | 国产高清永久免费 | 白丝av在线| av噜噜噜在线播放 | 在线免费观看涩涩 | 久久国语露脸国产精品电影 | 国产中文字幕免费 | 亚洲国产成人高清精品 | 99热这里精品 | 久久国产精品久久久久 | 91少妇精拍在线播放 | 91超国产| 精品久久久久久国产 | 天天做天天爱天天综合网 | 91福利影院在线观看 | 久久夜夜夜 | 久免费 | 精品一区二区在线观看 | 国产美女精品视频免费观看 | 美女黄久久 | 97国产情侣爱久久免费观看 | 久久久亚洲电影 | 99久免费精品视频在线观看 | 亚洲欧洲精品一区二区精品久久久 | 亚洲人在线视频 | 永久免费毛片在线观看 | 欧美黑人xxxx猛性大交 | 精品久久国产一区 | 最新免费中文字幕 | 在线观看不卡的av | 天天操天天操天天操天天操天天操天天操 | 国产在线精品一区二区 | 欧美一级片播放 | 亚洲一级二级三级 | 在线黄色免费av | 久久国产经典 | 午夜精品一区二区三区视频免费看 | 99精品视频在线观看免费 | 久久国产高清 | 在线欧美中文字幕 | 久久九九视频 | 去干成人网 | 亚洲成免费| 日韩电影在线观看中文字幕 | 国产午夜三级 | 黄污在线观看 | 综合色狠狠 | 丁香婷婷综合色啪 | 久久久久久久久久影视 | 久久综合免费视频 | 99精品在线直播 | 五月婷婷伊人网 | 日韩性网站| 特级西西人体444是什么意思 | 久草在线中文视频 | 激情喷水| 91精品久久久久久久久久入口 | 久久久免费在线观看 | 国产a网站| 欧美激情另类 | 国产精品美女免费视频 | 久久免费视频这里只有精品 | 五月婷婷在线观看视频 | 99草在线视频 | 国产精品网站一区二区三区 | 欧美国产一区二区 | 五月花激情| 五月天国产 | 天天色欧美 | 91在线观看视频网站 | 日本夜夜草视频网站 | 婷婷久久精品 | 91av视频免费在线观看 | 91在线蜜桃臀 | 中文字幕久久精品亚洲乱码 | www.五月婷 | 色爱区综合激月婷婷 | 91精品播放| 精品久久国产一区 | 免费视频黄色 | 久艹在线免费观看 | 人人爽影院| 中文字幕一区二区三区久久 | 亚洲国产日韩在线 | 不卡的av电影 | 一区二区三区四区精品视频 | 在线亚洲成人 | 成年人免费在线观看 | 欧美日韩一区二区三区视频 | 天堂av网在线| 国产精品第二十页 | 亚洲精品999 | 日韩欧美一区二区三区视频 | 免费黄色小网站 | 国产综合视频在线观看 | 国产色女人 | 欧美日韩午夜爽爽 | 最新久久免费视频 | 亚洲视频分类 | 久久久免费毛片 | 日本黄色大片儿 | 国产精品对白一区二区三区 | 999色视频| 久久精品中文视频 | 五月天com | 亚洲专区在线视频 | 免费试看一区 | 国产美女久久久 | 久久狠狠干 | 免费h漫在线观看 | 日韩激情在线 | 成人a级免费视频 | 香蕉手机在线 | 色综合久久综合中文综合网 | 天天操天天操天天操天天操 | 免费视频一级片 | 在线免费观看涩涩 | 激情开心色 | 中文字幕永久免费 | 开心综合网 | 99 视频 高清 | 天天鲁一鲁摸一摸爽一爽 | 日韩久久激情 | 成人av网站在线观看 | 国产福利精品视频 | 美女搞黄国产视频网站 | 中文字幕 国产视频 | 最近免费中文字幕mv在线视频3 | 四虎国产精品免费观看视频优播 | 亚洲精品久久久久中文字幕二区 | 天天干夜夜爱 | 99国内精品久久久久久久 | 精品久久久久久一区二区里番 | 中文字幕视频三区 | 欧美另类一二三四区 | 久久er99热精品一区二区 | 91九色免费视频 | 高清一区二区 | 久久精品超碰 | 波多野结衣精品 | 亚洲综合色激情五月 | 欧美日韩a视频 | 亚洲成a人片77777kkkk1在线观看 | 99精品一区二区 | 91av视频导航 | 国产精品美女久久久久久2018 | www.五月天色| 欧美 国产 视频 | 亚洲日本精品 | 亚洲综合日韩在线 | 不卡av电影在线 | 成人久久18免费网站麻豆 | 婷婷在线资源 | 久久久精品一区二区三区 | 天天干天天拍 | 六月丁香伊人 | 国产精品成人久久久久 | 欧美视频日韩 | 久久综合综合久久综合 | 手机av网站| 日本夜夜草视频网站 | 夜夜操天天 | bbbb操bbbb| 99精品视频免费全部在线 | 激情婷婷在线观看 | 国产高清黄色 | 在线日韩中文字幕 | a成人v在线 | 日韩一区视频在线 | 激情视频网页 | 国产精品一区欧美 | 国产综合久久 | 中文伊人 | 中文字幕在线观看视频网站 | 成人免费观看完整版电影 | 国产一区欧美二区 | 日韩精品久久一区二区 | 在线观看中文字幕一区 | 久久久三级视频 | 玖玖爱免费视频 | www亚洲精品 | 色噜噜日韩精品欧美一区二区 | 国产精品一区二区久久国产 | 99视频网站 | 天天射日 | 一级片视频在线 | www.夜色.com | 久久久久久久看片 | 日韩精品专区在线影院重磅 | 全久久久久久久久久久电影 | 国产免费大片 | 国产成人精品久久亚洲高清不卡 | 国产一级视频在线免费观看 | av福利在线看 | 五月激情六月丁香 | 人人添人人澡 | 97超碰在| 九九热视频在线播放 | 夜色资源站国产www在线视频 | 看全黄大色黄大片 | 四虎影视精品永久在线观看 | 国产一级免费片 | 91亚洲精品久久久 | 日韩免费小视频 | 国产精品黄 | 在线观看91精品视频 | 国产老太婆免费交性大片 | 四虎8848免费高清在线观看 | 在线视频观看你懂的 | 九九久久久久99精品 | 国产精品12 | 九九久久电影 | 午夜视频播放 | 婷婷色在线观看 | 九色视频网 | 亚洲三级网站 | 日日色综合 | 91精品在线播放 | 2022久久国产露脸精品国产 | 中文av日韩 | av不卡在线看 | 国产精品久久久久久一区二区三区 | 婷婷去俺也去六月色 | 国产精品乱码久久 | 国产视频二区三区 | 亚洲国产精品传媒在线观看 | 日本黄色大片免费 | 福利电影一区二区 | 激情五月激情综合网 | 手机av观看 | 国产黑丝一区二区三区 | 18久久久久久 | 中文字幕乱码一区二区 | 色偷偷88888欧美精品久久 | 亚洲精品国产自产拍在线观看 | 高清久久久 | 国产精品一区二区果冻传媒 | 中文字幕亚洲欧美日韩 | 97网站| 日本乱码在线 | 久久精品欧美 | 97在线观视频免费观看 | 国语精品久久 | 三级视频日韩 | 国内精品视频免费 | 涩五月婷婷 | 91豆花在线 | 在线免费av播放 | 色婷婷福利视频 | 亚洲激情网站免费观看 | av高清影院| 成人国产精品久久久春色 | 国产日韩精品久久 | 午夜色大片在线观看 | 91视频 - x99av | 69中文字幕 | 国产亚洲精品精品精品 | 2021国产精品 | 免费网站看v片在线a | 97**国产露脸精品国产 | 操操操综合 | 黄av资源 | 久草在线久草在线2 | 日韩在线观看第一页 | 日韩理论在线播放 | 欧美片网站yy| 中文字幕一区av | 久久精品黄 | 丁香资源影视免费观看 | 国产日产高清dvd碟片 | 91精品人成在线观看 | 欧美精品九九99久久 | 在线看片成人 | 久久久免费毛片 | 免费精品国产va自在自线 | 国产亚洲高清视频 | 在线观看91av| 久久亚洲精品国产亚洲老地址 | 六月色播 | 国产精品video | 国产成人在线精品 | 国产高清绿奴videos | 国产日产av | 天堂av免费 | 韩国一区二区av | av免费观看网站 | 国产福利在线不卡 | 青青河边草免费直播 | 国产99视频在线观看 | 亚洲成成品网站 | 国色综合 | 欧美日韩另类视频 | 中文字幕 国产精品 | 久久久久免费视频 | 欧美日韩一二三四区 | 天天草天天操 | 中文理论片 | 又紧又大又爽精品一区二区 | 91精品国产自产在线观看永久 | 国产精品18久久久久久首页狼 | 国产剧情一区 | 欧洲精品视频一区 | 久久国产精品视频 | 97福利| 黄色在线免费观看网址 | 在线观看免费版高清版 | 国产精品视频 | 久久久久欠精品国产毛片国产毛生 | 久久免费片 | 成人免费精品 | 日韩最新理论电影 | 久久久999免费视频 日韩网站在线 | 天天天色综合 | 精品久久久久久综合 | 天天综合网入口 | 激情中文字幕 | 国内少妇自拍视频一区 | 成片免费观看视频999 | 国产精品18久久久久久不卡孕妇 | 97超级碰碰碰碰久久久久 | 国产精品99久久久久久人免费 | 国产精品日韩久久久久 | 国产最新福利 | 免费在线观看a v | 99热.com| 日韩久久视频 | 一区二区精品久久 | 天天操狠狠操夜夜操 | 四虎视频| 在线观看福利网站 | 日韩精品不卡在线 | 日韩欧美高清视频在线观看 | 国产做爰视频 | 日韩精品一区二区三区免费观看 | 日韩一区正在播放 | 探花视频网站 | 96精品高清视频在线观看软件特色 | 91在线小视频 | 天天天天爱天天躁 | 国产精品高清在线观看 | 日本系列中文字幕 | 国产亚洲情侣一区二区无 | 黄色一集片| 久久精品99久久 | 超碰99人人 | 国产精品成人av在线 | 精品国产一区二区三区蜜臀 | 欧美成人999| 欧美成天堂网地址 | 7799av| 日韩精品中文字幕在线 | 国产亚洲成av片在线观看 | 亚洲久草网 | 免费在线观看成人 | av中文字幕网址 | 五月婷婷在线视频 | 国产成人精品免费在线观看 | 天天色天天射天天综合网 | 亚洲一区二区精品3399 | 婷婷天天色 | 九九视频网 | 日本一区二区不卡高清 | 蜜臀av性久久久久蜜臀aⅴ四虎 | 日本精品久久久久久 | 日日爱视频| 91在线资源| 免费观看成年人视频 | 91精品久久久久久久久久久久久 | 99久热在线精品 | av不卡中文字幕 | 91在线九色 | 国产成人精品av久久 | 日韩中字在线 | 99视频国产精品 | 日本黄色免费大片 | 国产精品男女视频 | 国产午夜av | 久久免费毛片视频 | 日韩精品五月天 | www色com| 精品在线视频播放 | 久久久精品国产免费观看一区二区 | 中文字幕日韩伦理 | 香蕉视频在线看 | 久久激情五月激情 | 久久手机视频 | 天天天干 | 久久国产精品99精国产 | 色妞久久福利网 | 欧洲亚洲激情 | 亚洲一区二区三区毛片 | 成年人免费在线观看网站 | 中文字幕人成不卡一区 | 黄色激情网址 | 成人亚洲免费 | 日韩在线二区 | 日本精品视频在线播放 | 成人免费观看视频网站 | av在线免费观看网站 | 国产精品第一页在线观看 | 97麻豆视频| 国产第一页福利影院 | 国产成人av片| 在线精品视频免费播放 | 韩国av永久免费 | 91在线视频观看 | 91精品啪啪 | 午夜99| 中文字幕日韩一区二区三区不卡 | 久久精品久久精品久久 | 中文乱幕日产无线码1区 | 欧美一二三视频 | 国产在线精品视频 | 国产精品国产三级国产 | 99爱这里只有精品 | 99资源网| 久久激情久久 | 激情五月婷婷网 | 国产主播大尺度精品福利免费 | 国模一二三区 | 在线黄色国产 | 久久免费视频这里只有精品 | 精品国产不卡 | 偷拍久久久 | 韩国三级一区 | 日韩精品一二三 | 看av免费 | 中文字幕av最新更新 | 久久色视频 | 五月天网页 | 欧美日韩观看 | 欧美日在线 | 97精品国产97久久久久久免费 | 国产精品高清在线观看 | 在线只有精品 | 欧美色婷 | 欧美日韩免费一区二区 | 五月婷婷六月综合 | 欧美色久 | 天天av天天 | 在线免费精品视频 | 午夜精品一区二区三区可下载 | 美女久久99 | 国产一级在线播放 | 婷婷激情小说网 | 五月天,com| 欧美精品久久久久a | 国产精品theporn | 五月在线视频 | 婷婷丁香色综合狠狠色 | 91在线精品一区二区 | 欧美美女一级片 | 日韩av一区二区在线播放 | 国产黄av | 久久99久久99精品免视看婷婷 | 福利网址在线观看 | 国产区av在线| 日韩欧美视频在线 | 人人干人人超 | 国产精品视频在线看 | 一区二区三区四区不卡 | 婷婷久久一区 | 欧美激情第八页 | 91高清免费 | av播放在线 | 亚洲 中文字幕av | 欧美激情精品久久久久久变态 | 色噜噜狠狠狠狠色综合久不 | 欧美黄色软件 | 亚洲精品久久久久中文字幕m男 | 久久免费公开视频 | 色资源中文字幕 | 欧美在线视频第一页 | 日日夜夜骑 | 亚洲精品福利在线 | 欧美日韩在线观看视频 | 中文字幕在线免费看线人 | 成人天堂网| 99久久精品久久亚洲精品 | 天天干天天玩天天操 | 国产网站在线免费观看 | 中文字幕国产精品 | 九色自拍视频 | 日韩大片免费在线观看 | 一本一道久久a久久精品 | av电影在线观看完整版一区二区 | 狠狠狠色丁香婷婷综合久久88 | 国产尤物在线观看 | 高清av免费一区中文字幕 | 久久久国产精品久久久 | 久久黄色成人 | 二区在线播放 | 亚洲涩涩涩涩涩涩 | 国产精品美女久久久久久 | 在线观看久久久久久 |