日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 运维知识 > 数据库 >内容正文

数据库

Redis-ha(sentinel)搭建

發布時間:2023/12/18 数据库 35 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Redis-ha(sentinel)搭建 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

服務器描述:本次搭建是用來測試,所以是在一臺服務器上搭建三個redis服務(一主兩從)

服務角色

端口

Redis.conf名稱

sentinel配置文件名稱

sentinel端口

redis日志路徑

sentinel路勁

主(master)

6379

redis.conf

sentinel.conf

26379

/home/zhangxs/data/redislog/redis_server/master.log

/home/zhangxs/data/redislog/sentinel/sentinel6379.log

從(slave)

6380

redis_slave6380.conf

Sentinel6380.conf

26380

/home/zhangxs/data/redislog/redis_server/slave6380.log

/home/zhangxs/data/redislog/sentinel/sentinel6380.log

從(slave)

6381

redis_slave6381.conf

Sentinel6381.conf

26381

/home/zhangxs/data/redislog/redis_server/slave6381.log

/home/zhangxs/data/redislog/sentinel/sentinel6381.log

?

修改配置文件

  • 1: redis.conf

修改redis服務日志路徑:logfile "/home/zhangxs/data/redislog/redis_server/master.log"

其他沒有修改,使用的是默認配置

?

  • 2:redis_slave6380.conf 和redis_slave6381.conf? (copy redis_slave.conf)
  • 設置他們指向的master服務的ip和端口:slaveof 127.0.0.1 6379(兩個文件都配置)
  • 修改redis_slave6380.conf 和redis_slave6381.conf 端口:redis_slave6380.conf? 端口為26380 ; redis_slave6381.conf 端口為26381
  • 設置slave服務日志路徑: logfile /home/zhangxs/data/redislog/redis_server/slave6380.log 和 logfile /home/zhangxs/data/redislog/redis_server/slave6381.log
  • ?

    • 3:sentinel.conf
  • 修改日志路徑:logfile "/home/zhangxs/data/redislog/sentinel/sentinel6379.log"
  • ?

    • 4:Sentinel6380.conf 和 Sentinel6381.conf (copy sentinel.conf)
  • 修改端口號:Sentinel6380.conf 改為 26380;?? Sentinel6381.conf 改為 26381;
  • 修改日志路徑:logfile "/home/zhangxs/data/redislog/sentinel/sentinel6380.log" 和?logfile "/home/zhangxs/data/redislog/sentinel/sentinel6381.log"
  • ?

    ?

    上面配置好后,啟動redis服務

    • 1:啟動master
    src/redis-server redis.conf&

    ?

    • 2:啟動從服務(slave6380)
    src/redis-server redis_slave6380.conf &

    ?

    查看主服務日志,會發現多出來一段

    2755:M 29 Jul 00:13:25.469 * Starting BGSAVE for SYNC with target: disk 2755:M 29 Jul 00:13:25.502 * Background saving started by pid 2784 2784:C 29 Jul 00:13:25.608 * DB saved on disk 2784:C 29 Jul 00:13:25.608 * RDB: 6 MB of memory used by copy-on-write 2755:M 29 Jul 00:13:25.677 * Background saving terminated with success 2755:M 29 Jul 00:13:25.677 * Synchronization with slave 127.0.0.1:6380 succeeded //同步到從服務127.0.0.1:6380成功

    ?

    查看從服務日志slave6380.log

    2780:S 29 Jul 00:13:25.436 * DB loaded from disk: 0.007 seconds 2780:S 29 Jul 00:13:25.436 * Before turning into a slave, using my master parameters to synthesize a cached master: I may be able to synchronize with the new master with just a partial transfer. 2780:S 29 Jul 00:13:25.436 * Ready to accept connections 2780:S 29 Jul 00:13:25.436 * Connecting to MASTER 127.0.0.1:6379 //正在連接master服務 2780:S 29 Jul 00:13:25.436 * MASTER <-> SLAVE sync started //master到slave 啟動同步 2780:S 29 Jul 00:13:25.436 * Non blocking connect for SYNC fired the event. 2780:S 29 Jul 00:13:25.436 * Master replied to PING, replication can continue... 2780:S 29 Jul 00:13:25.436 * Trying a partial resynchronization (request a26696cff5d35f38896c4eb068f71adbb7cfc421:474104). 2780:S 29 Jul 00:13:25.577 * Full resync from master: 541cd938f43b4f144e647881af409fa1884ea5a4:0 //從master全量同步 2780:S 29 Jul 00:13:25.577 * Discarding previously cached master state.//丟棄之前緩存的master狀態 2780:S 29 Jul 00:13:25.677 * MASTER <-> SLAVE sync: receiving 250 bytes from master //slave從master 同步250個字節 2780:S 29 Jul 00:13:25.677 * MASTER <-> SLAVE sync: Flushing old data 2780:S 29 Jul 00:13:25.677 * MASTER <-> SLAVE sync: Loading DB in memory 2780:S 29 Jul 00:13:25.678 * MASTER <-> SLAVE sync: Finished with success

    ?

    • 3:啟動從服務(slave6381)
    src/redis-server redis_slave6381.conf &

    ?

    查看主服務日志,會發現多出來一段

    //從服務127.0.0.1:6381發送同步請求
    2755:M 29 Jul 00:26:46.531 * Slave 127.0.0.1:6381 asks for synchronization //接受127.0.1:6381的部分重同步請求。從偏移量1開始發送積壓的1106字節 2755:M 29 Jul 00:26:46.531 * Partial resynchronization request from 127.0.0.1:6381 accepted. Sending 1106 bytes of backlog starting from offset 1.

    ?

    查看從服務日志slave6381.log

    2809:S 29 Jul 00:26:46.531 * DB loaded from disk: 0.000 seconds 2809:S 29 Jul 00:26:46.531 * Before turning into a slave, using my master parameters to synthesize a cached master: I may be able to synchronize with the new master with just a partial transfer. 2809:S 29 Jul 00:26:46.531 * Ready to accept connections 2809:S 29 Jul 00:26:46.531 * Connecting to MASTER 127.0.0.1:6379 2809:S 29 Jul 00:26:46.531 * MASTER <-> SLAVE sync started 2809:S 29 Jul 00:26:46.531 * Non blocking connect for SYNC fired the event. 2809:S 29 Jul 00:26:46.531 * Master replied to PING, replication can continue... 2809:S 29 Jul 00:26:46.531 * Trying a partial resynchronization (request 541cd938f43b4f144e647881af409fa1884ea5a4:1). 2809:S 29 Jul 00:26:46.531 * Successful partial resynchronization with master. 2809:S 29 Jul 00:26:46.532 * MASTER <-> SLAVE sync: Master accepted a Partial Resynchronization

    ?

    • 4:測試數據同步功能(使用redis-cli 連接服務器)

    1:連接master

    [root@vm1 src]# redis-cli -h 127.0.0.1 -p 6379 127.0.0.1:6379> set name fj

    ?

    2:連接slave6380

    [root@vm1 src]# redis-cli -h 127.0.0.1 -p 6380 127.0.0.1:6380> get name "fj" 127.0.0.1:6380>

    ?

    3:連接slave6381

    [root@vm1 src]# redis-cli -h 127.0.0.1 -p 6381 127.0.0.1:6381> get name "fj" 127.0.0.1:6381>

    ?

    Ok 主從同步沒有問題。

    默認情況下從服務是不允許set數據的,測試下

    127.0.0.1:6380> set name hello (error) READONLY You can't write against a read only slave. 127.0.0.1:6380> 127.0.0.1:6381> set name hello (error) READONLY You can't write against a read only slave. 127.0.0.1:6381>

    ?

    啟動各個服務的sentinel

    ?

    • 啟動sentinel6379
    src/redis-sentinel sentinel.conf &

    ?

    • 查看Sentinel6379.log
    2908:X 29 Jul 01:01:32.838 # oO0OoO0OoO0Oo Redis is starting oO0OoO0OoO0Oo 2908:X 29 Jul 01:01:32.839 # Redis version=4.0.10, bits=64, commit=00000000, modified=0, pid=2908, just started 2908:X 29 Jul 01:01:32.839 # Configuration loaded 2908:X 29 Jul 01:01:32.839 * Increased maximum number of open files to 10032 (it was originally set to 1024). 2908:X 29 Jul 01:01:32.840 * Running mode=sentinel, port=26379. 2908:X 29 Jul 01:01:32.840 # WARNING: The TCP backlog setting of 511 cannot be enforced because /proc/sys/net/core/somaxconn is set to the lower value of 128. 2908:X 29 Jul 01:01:32.855 # Sentinel ID is 1a77392638e41bb0ea0a865ffc93b8de6335227f 2908:X 29 Jul 01:01:32.855 # +monitor master mymaster 127.0.0.1 6379 quorum 2 //一個新的從服務器已經被sentinel識別并關聯 2908:X 29 Jul 01:01:32.856 * +slave slave 127.0.0.1:6380 127.0.0.1 6380 @ mymaster 127.0.0.1 6379 2908:X 29 Jul 01:01:32.858 * +slave slave 127.0.0.1:6381 127.0.0.1 6381 @ mymaster 127.0.0.1 6379

    ?

    • 啟動sentinel6380
    src/redis-sentinel sentinel6380.conf &

    ?

    • 查看 Sentinel6380.log
    2937:X 29 Jul 01:08:14.325 # Redis version=4.0.10, bits=64, commit=00000000, modified=0, pid=2937, just started 2937:X 29 Jul 01:08:14.325 # Configuration loaded 2937:X 29 Jul 01:08:14.327 * Increased maximum number of open files to 10032 (it was originally set to 1024). 2937:X 29 Jul 01:08:14.377 * Running mode=sentinel, port=26380. 2937:X 29 Jul 01:08:14.377 # WARNING: The TCP backlog setting of 511 cannot be enforced because /proc/sys/net/core/somaxconn is set to the lower value of 128. 2937:X 29 Jul 01:08:14.379 # Sentinel ID is 4a6aebffdd1301bf054e722c34e8a6611418ba8a 2937:X 29 Jul 01:08:14.379 # +monitor master mymaster 127.0.0.1 6379 quorum 2 2937:X 29 Jul 01:08:14.380 * +slave slave 127.0.0.1:6380 127.0.0.1 6380 @ mymaster 127.0.0.1 6379 2937:X 29 Jul 01:08:14.381 * +slave slave 127.0.0.1:6381 127.0.0.1 6381 @ mymaster 127.0.0.1 6379 //一個新的sentinel(監控)已經被識別并關聯 2937:X 29 Jul 01:08:14.919 * +sentinel sentinel 1a77392638e41bb0ea0a865ffc93b8de6335227f 127.0.0.1 26379 @ mymaster 127.0.0.1 6379

    ?

    • Sentinel6380啟動后會發現,Sentinel6379.log 加了一段日志
    //一個新的sentinel(監控)已經被識別并關聯 2908:X 29 Jul 01:08:16.367 * +sentinel sentinel 4a6aebffdd1301bf054e722c34e8a6611418ba8a 127.0.0.1 26380 @ mymaster 127.0.0.1 6379

    新啟動一個sentinel,會通過發布訂閱功能自動發現監控相同master下的其他sentinel。這一功能是通過向頻道 sentinel:hello 發送信息來實現的。

    ?

    • 啟動sentinel6381
    [root@vm1 redis-4.0.10]# src/redis-sentinel sentinel6381.conf &

    ?

    查看 Sentinel6381.log

    2961:X 29 Jul 01:11:09.823 # Configuration loaded 2961:X 29 Jul 01:11:09.823 * Increased maximum number of open files to 10032 (it was originally set to 1024). 2961:X 29 Jul 01:11:09.852 * Running mode=sentinel, port=26381. 2961:X 29 Jul 01:11:09.852 # WARNING: The TCP backlog setting of 511 cannot be enforced because /proc/sys/net/core/somaxconn is set to the lower value of 128. 2961:X 29 Jul 01:11:09.853 # Sentinel ID is 1db1a4dcdf0ecca00b64d9362c2a2dd338da0030 2961:X 29 Jul 01:11:09.853 # +monitor master mymaster 127.0.0.1 6379 quorum 2 2961:X 29 Jul 01:11:09.853 * +slave slave 127.0.0.1:6380 127.0.0.1 6380 @ mymaster 127.0.0.1 6379 2961:X 29 Jul 01:11:09.855 * +slave slave 127.0.0.1:6381 127.0.0.1 6381 @ mymaster 127.0.0.1 6379 2961:X 29 Jul 01:11:10.334 * +sentinel sentinel 1a77392638e41bb0ea0a865ffc93b8de6335227f 127.0.0.1 26379 @ mymaster 127.0.0.1 6379 2961:X 29 Jul 01:11:11.446 * +sentinel sentinel 4a6aebffdd1301bf054e722c34e8a6611418ba8a 127.0.0.1 26380 @ mymaster 127.0.0.1 6379

    ?

    ?

    • 新加入的sentinel6381, sentinel6379和sentinel6380 都會收到通知(//一個新的sentinel(監控)已經被識別并關聯)

    2908:X 29 Jul 01:11:11.880 * +sentinel sentinel 1db1a4dcdf0ecca00b64d9362c2a2dd338da0030 127.0.0.1 26381 @ mymaster 127.0.0.1 6379

    2937:X 29 Jul 01:11:11.878 * +sentinel sentinel 1db1a4dcdf0ecca00b64d9362c2a2dd338da0030 127.0.0.1 26381 @ mymaster 127.0.0.1 6379

    ?

    sentinel的狀態都會記錄到sentinel.conf文件中,用于啟動后恢復狀態,查看下各個sentinel.conf 文件 變動后的部分

    • sentinel.conf

    啟動前:無???? 啟動后:sentinel myid 1a77392638e41bb0ea0a865ffc93b8de6335227f //自己的sentinel myid

    啟動前:無???? 啟動后:

    # Generated by CONFIG REWRITE

    #master下得兩個從服務

    sentinel known-slave mymaster 127.0.0.1 6380

    sentinel known-slave mymaster 127.0.0.1 6381

    #master下其他兩個sentinel

    sentinel known-sentinel mymaster 127.0.0.1 26380 4a6aebffdd1301bf054e722c34e8a6611418ba8a

    sentinel known-sentinel mymaster 127.0.0.1 26381 1db1a4dcdf0ecca00b64d9362c2a2dd338da0030

    sentinel current-epoch 0

    ?

    Sentinel6380.conf和Sentinel6381.conf改動和sentinel.conf 基本一樣。不一樣的就是 記錄自己sentinel myid和master下其他兩個sentinel不一樣,大同小異。

    ?

    測試故障遷移

    Sentinel 故障遷移我使用的是默認配置(不需要再配置,可以自定義修改)

    //判斷master失效,至少有兩個sentinel同意才會執行故障遷移
    sentinel monitor mymaster 127.0.0.1 6379 2 //如果在10秒內sentinel 都收到master的一次有效回復,就認為該master主觀下線 sentinel down-after-milliseconds mymaster 60000 sentinel failover-timeout mymaster 180000
    //在執行故障轉移時,同時只有一個slave能對新的master進行數據同步
    sentinel parallel-syncs mymaster 1
    sentinel monitor resque 192.168.1.3 6380 4
    sentinel down-after-milliseconds resque 10000
    sentinel failover-timeout resque 180000
    sentinel parallel-syncs resque 5

    ?

    • 1:查看redis的相關服務
    root 2755 2551 0 00:11 pts/2 00:00:06 src/redis-server 127.0.0.1:6379 root 2780 2551 0 00:13 pts/2 00:00:06 src/redis-server 127.0.0.1:6380 root 2809 2551 0 00:26 pts/2 00:00:05 src/redis-server 127.0.0.1:6381 root 2816 2529 0 00:30 pts/1 00:00:00 redis-cli -h 127.0.0.1 -p 6379 root 2822 2530 0 00:33 pts/0 00:00:00 redis-cli -h 127.0.0.1 -p 6380 root 2841 2823 0 00:34 pts/6 00:00:00 redis-cli -h 127.0.0.1 -p 6381 root 2908 2551 0 01:01 pts/2 00:00:07 src/redis-sentinel *:26379 [sentinel] root 2937 2551 0 01:08 pts/2 00:00:06 src/redis-sentinel *:26380 [sentinel] root 2961 2551 0 01:11 pts/2 00:00:06 src/redis-sentinel *:26381 [sentinel] root 3000 2551 0 01:50 pts/2 00:00:00 grep --color=auto redis

    ?

    ?

    • 2:查看整個備份狀態
    127.0.0.1:6379> info# Server # Clients # Memory # Persistence # Stats # Replication role:master connected_slaves:2 slave0:ip=127.0.0.1,port=6380,state=online,offset=544591,lag=0 slave1:ip=127.0.0.1,port=6381,state=online,offset=544591,lag=0 master_replid:541cd938f43b4f144e647881af409fa1884ea5a4 master_replid2:0000000000000000000000000000000000000000 master_repl_offset:544857 second_repl_offset:-1 repl_backlog_active:1 repl_backlog_size:1048576 repl_backlog_first_byte_offset:1 repl_backlog_histlen:544857 # CPU# Cluster# Keyspace

    ?

    其他信息我都刪掉了,只留下【Replication】的信息,其他信息可以在redis-cli 命令行中使用【info】命令查看

    可以看到,6379是master角色,master下有兩個從服務port=6380,port=6381

    ?

    • 3: Kill 掉 master,觀察日志
    kill -9 2755

    ?

    master被干掉了,所以master.log 沒有日志,看其他兩個從服務日志(截取部分)

    redis_slave6380.log

    ///一分鐘內 2780:S 29 Jul 01:58:53.414 # Connection with master lost. 2780:S 29 Jul 01:58:53.414 * Caching the disconnected master state. 2780:S 29 Jul 01:58:54.163 * Connecting to MASTER 127.0.0.1:6379 2780:S 29 Jul 01:58:54.163 * MASTER <-> SLAVE sync started 2780:S 29 Jul 01:58:54.164 # Error condition on socket for SYNC: Connection refused 2780:S 29 Jul 01:58:55.168 * Connecting to MASTER 127.0.0.1:6379 2780:S 29 Jul 01:58:55.169 * MASTER <-> SLAVE sync started .... ... ... 2780:S 29 Jul 01:59:22.381 # Error condition on socket for SYNC: Connection refused 2780:S 29 Jul 01:59:23.389 * Connecting to MASTER 127.0.0.1:6379 2780:S 29 Jul 01:59:23.389 * MASTER <-> SLAVE sync started 2780:S 29 Jul 01:59:23.389 # Error condition on socket for SYNC: Connection refused ///一分鐘后 2780:S 29 Jul 01:59:24.321 * SLAVE OF 127.0.0.1:6381 enabled (user request from 'id=8 addr=127.0.0.1:52556 fd=11 name=sentinel-4a6aebff-cmd age=3070 idle=0 flags=x db=0 sub=0 psub=0 multi=3 qbuf=133 qbuf-free=32635 obl=36 oll=0 omem=0 events=r cmd=exec') 2780:S 29 Jul 01:59:24.323 # CONFIG REWRITE executed with suc 2780:S 29 Jul 01:59:24.399 * Connecting to MASTER 127.0.0.1:6381 2780:S 29 Jul 01:59:24.399 * MASTER <-> SLAVE sync started 2780:S 29 Jul 01:59:24.399 * Non blocking connect for SYNC fired the event. 2780:S 29 Jul 01:59:24.399 * Master replied to PING, replication can continue... 2780:S 29 Jul 01:59:24.399 * Trying a partial resynchronization (request 541cd938f43b4f144e647881af409fa1884ea5a4:617714). 2780:S 29 Jul 01:59:24.400 * Successful partial resynchronization with master. 2780:S 29 Jul 01:59:24.400 # Master replication ID changed to 514edab0972b4b6e5388edc4f14fbdb4d223d39e 2780:S 29 Jul 01:59:24.400 * MASTER <-> SLAVE sync: Master accepted a Partial Resynchronization.

    ?

    從01:58:53.414 到01:59:23.389 這一分鐘內一直在嘗試連接master,一分鐘內沒有連接成功后,sentinel 就會master判斷為主觀下線,看日志

    Sentinel6379.log

    //判定master 主觀下線 2908:X 29 Jul 01:59:23.492 # +sdown master mymaster 127.0.0.1 6379 //當前的紀元(epoch)已經被更新。 2908:X 29 Jul 01:59:23.546 # +new-epoch 1 //開始給sentinel6380投票,誰來主導這次故障轉移 2908:X 29 Jul 01:59:23.549 # +vote-for-leader 4a6aebffdd1301bf054e722c34e8a6611418ba8a 1 //判定master 客觀觀下線,已經有2個sentinel同意 2908:X 29 Jul 01:59:23.569 # +odown master mymaster 127.0.0.1 6379 #quorum 3/2 2908:X 29 Jul 01:59:23.569 # Next failover delay: I will not start a failover before Sun Jul 29 02:05:23 2018 2908:X 29 Jul 01:59:24.328 # +config-update-from sentinel 4a6aebffdd1301bf054e722c34e8a6611418ba8a 127.0.0.1 26380 @ mymaster 127.0.0.1 6379 2908:X 29 Jul 01:59:24.328 # +switch-master mymaster 127.0.0.1 6379 127.0.0.1 6381 2908:X 29 Jul 01:59:24.328 * +slave slave 127.0.0.1:6380 127.0.0.1 6380 @ mymaster 127.0.0.1 6381 2908:X 29 Jul 01:59:24.328 * +slave slave 127.0.0.1:6379 127.0.0.1 6379 @ mymaster 127.0.0.1 6381 2908:X 29 Jul 01:59:54.333 # +sdown slave 127.0.0.1:6379 127.0.0.1 6379 @ mymaster 127.0.0.1 6381

    ?

    ?

    Sentinel6380.log

    //判定master 主觀下線 2937:X 29 Jul 01:59:23.459 # +sdown master mymaster 127.0.0.1 6379 //判定master 客觀觀下線,已經有2個sentinel同意 2937:X 29 Jul 01:59:23.536 # +odown master mymaster 127.0.0.1 6379 #quorum 2/2 2937:X 29 Jul 01:59:23.537 # +new-epoch 1 //嘗試故障轉移master 2937:X 29 Jul 01:59:23.537 # +try-failover master mymaster 127.0.0.1 6379 //開始給sentinel6380投票,誰來主導這次故障轉移 2937:X 29 Jul 01:59:23.540 # +vote-for-leader 4a6aebffdd1301bf054e722c34e8a6611418ba8a 1 //其他兩個sentinel 都投票給4a6aebffdd1301bf054e722c34e8a6611418ba8a 【6380sentinel】 2937:X 29 Jul 01:59:23.549 # 1db1a4dcdf0ecca00b64d9362c2a2dd338da0030 voted for 4a6aebffdd1301bf054e722c34e8a6611418ba8a 1 2937:X 29 Jul 01:59:23.549 # 1a77392638e41bb0ea0a865ffc93b8de6335227f voted for 4a6aebffdd1301bf054e722c34e8a6611418ba8a 1 //6379這個服務贏得選舉可以進行故障轉移 2937:X 29 Jul 01:59:23.619 # +elected-leader master mymaster 127.0.0.1 6379 //發現6379這個服務是故障轉移狀態,就開始選擇master下得從服務 2937:X 29 Jul 01:59:23.619 # +failover-state-select-slave master mymaster 127.0.0.1 6379 //故障轉移操作現在處于 select-slave 狀態 —— Sentinel 正在尋找可以升級為主服務器的從服務器。(選擇mymaster 127.0.0.1 6379 下 6381 的從服務) 2937:X 29 Jul 01:59:23.710 # +selected-slave slave 127.0.0.1:6381 127.0.0.1 6381 @ mymaster 127.0.0.1 6379 //Sentinel 正在將6379下的從服務器6381升級為主服務器,等待升級功能完成。 2937:X 29 Jul 01:59:23.710 * +failover-state-send-slaveof-noone slave 127.0.0.1:6381 127.0.0.1 6381 @ mymaster 127.0.0.1 6379 //master下的從服務 6381 等待升級 2937:X 29 Jul 01:59:23.769 * +failover-state-wait-promotion slave 127.0.0.1:6381 127.0.0.1 6381 @ mymaster 127.0.0.1 6379 //升級master下從服務6381 2937:X 29 Jul 01:59:24.251 # +promoted-slave slave 127.0.0.1:6381 127.0.0.1 6381 @ mymaster 127.0.0.1 6379 //故障轉移狀態切換到了 reconf-slaves 狀態。(再次確認從服務器轉為主服務器) 2937:X 29 Jul 01:59:24.251 # +failover-state-reconf-slaves master mymaster 127.0.0.1 6379 //牽頭的sentinel 向6380從服務器發送slaveof 指令,將它設置為新的master 2937:X 29 Jul 01:59:24.321 * +slave-reconf-sent slave 127.0.0.1:6380 127.0.0.1 6380 @ mymaster 127.0.0.1 6379 //6379不再處于客觀下線狀態,客觀下線狀態只用于master服務,6379已經不是master了 2937:X 29 Jul 01:59:24.653 # -odown master mymaster 127.0.0.1 6379 //6380服務正在將自己設置為6381主服務的從服務器,還未完成 2937:X 29 Jul 01:59:25.270 * +slave-reconf-inprog slave 127.0.0.1:6380 127.0.0.1 6380 @ mymaster 127.0.0.1 6379 //從服務器6380已經完成對新master服務的同步 2937:X 29 Jul 01:59:25.271 * +slave-reconf-done slave 127.0.0.1:6380 127.0.0.1 6380 @ mymaster 127.0.0.1 6379 //master6379 故障轉移結束,所有的從服務器開始同步新的master 2937:X 29 Jul 01:59:25.347 # +failover-end master mymaster 127.0.0.1 6379 //配置變更主服務器的ip地址已經改變, 選擇master 為6381 2937:X 29 Jul 01:59:25.347 # +switch-master mymaster 127.0.0.1 6379 127.0.0.1 6381 //6381下的兩個從服務(新的從服務被識別并關聯) 2937:X 29 Jul 01:59:25.347 * +slave slave 127.0.0.1:6380 127.0.0.1 6380 @ mymaster 127.0.0.1 6381 2937:X 29 Jul 01:59:25.347 * +slave slave 127.0.0.1:6379 127.0.0.1 6379 @ mymaster 127.0.0.1 6381 //添加master下從服務6379 為客觀下線 2937:X 29 Jul 01:59:55.401 # +sdown slave 127.0.0.1:6379 127.0.0.1 6379 @ mymaster 127.0.0.1 6381

    ?

    ?

    Sentinel6381.log

    //判定master 主觀下線
    2961:X 29 Jul 01:59:23.459 # +sdown master mymaster 127.0.0.1 6379 2961:X 29 Jul 01:59:23.545 # +new-epoch 1
    //開始給6380投票 2961:X 29 Jul 01:59:23.548 # +vote-for-leader 4a6aebffdd1301bf054e722c34e8a6611418ba8a 1 2961:X 29 Jul 01:59:24.325 # +config-update-from sentinel 4a6aebffdd1301bf054e722c34e8a6611418ba8a 127.0.0.1 26380 @ mymaster 127.0.0.1 6379 2961:X 29 Jul 01:59:24.325 # +switch-master mymaster 127.0.0.1 6379 127.0.0.1 6381 2961:X 29 Jul 01:59:24.325 * +slave slave 127.0.0.1:6380 127.0.0.1 6380 @ mymaster 127.0.0.1 6381 2961:X 29 Jul 01:59:24.325 * +slave slave 127.0.0.1:6379 127.0.0.1 6379 @ mymaster 127.0.0.1 6381 2961:X 29 Jul 01:59:54.348 # +sdown slave 127.0.0.1:6379 127.0.0.1 6379 @ mymaster 127.0.0.1 6381

    可以看到在 01:59:23秒 也就是一分鐘之后,三個監控master的sentinel 都判定了master為主觀下線(sdown),我們配置的至少有2個sentinel 同意master 主觀下線,master就會被切換到客觀下線(odown) 【+odown master mymaster 127.0.0.1 6379 #quorum 2/2】。當判斷master為客觀下線后,sentinel 就開始選舉出新的master,可以看到Sentinel6380.log 日志要比其他的sentinel.log多,因為整個選舉的過程是Sentinel6380 在牽頭執行。

    ?

    4:在6381下查看整個服務的備份狀態

    # Replication role:master connected_slaves:1 slave0:ip=127.0.0.1,port=6380,state=online,offset=1125775,lag=0 master_replid:514edab0972b4b6e5388edc4f14fbdb4d223d39e master_replid2:541cd938f43b4f144e647881af409fa1884ea5a4 master_repl_offset:1125775 second_repl_offset:617714 repl_backlog_active:1 repl_backlog_size:1048576 repl_backlog_first_byte_offset:77200 repl_backlog_histlen:1048576

    可以看到6381的角色成為了master,只有一個slave,因為另一個掛了。

    ?

    5:再次啟動6379服務

    查看6379服務的日志

    3037:S 29 Jul 02:46:47.753 # CONFIG REWRITE executed with success.
    3037:S 29 Jul 02:46:48.359 * Connecting to MASTER 127.0.0.1:6381
    3037:S 29 Jul 02:46:48.360 * MASTER <-> SLAVE sync started
    3037:S 29 Jul 02:46:48.360 * Non blocking connect for SYNC fired the event.
    3037:S 29 Jul 02:46:48.361 * Master replied to PING, replication can continue...
    3037:S 29 Jul 02:46:48.362 * Trying a partial resynchronization (request 7b0dc6ac9c2188e3c92eb29eea200ea6c572619c:1).
    3037:S 29 Jul 02:46:48.608 * Full resync from master: 514edab0972b4b6e5388edc4f14fbdb4d223d39e:1178142
    3037:S 29 Jul 02:46:48.608 * Discarding previously cached master state.
    3037:S 29 Jul 02:46:48.708 * MASTER <-> SLAVE sync: receiving 253 bytes from master
    3037:S 29 Jul 02:46:48.708 * MASTER <-> SLAVE sync: Flushing old data
    3037:S 29 Jul 02:46:48.708 * MASTER <-> SLAVE sync: Loading DB in memory
    3037:S 29 Jul 02:46:48.708 * MASTER <-> SLAVE sync: Finished with success
    3037:S 29 Jul 02:46:48.709 * Background append only file rewriting started by pid 3042
    3037:S 29 Jul 02:46:48.750 * AOF rewrite child asks to stop sending diffs.
    3042:C 29 Jul 02:46:48.750 * Parent agreed to stop sending diffs. Finalizing AOF...
    3042:C 29 Jul 02:46:48.750 * Concatenating 0.00 MB of AOF diff received from parent.
    3042:C 29 Jul 02:46:48.750 * SYNC append only file rewrite performed
    3042:C 29 Jul 02:46:48.750 * AOF rewrite: 6 MB of memory used by copy-on-write
    3037:S 29 Jul 02:46:48.781 * Background AOF rewrite terminated with success
    3037:S 29 Jul 02:46:48.782 * Residual parent diff successfully flushed to the rewritten AOF (0.00 MB)
    3037:S 29 Jul 02:46:48.782 * Background AOF rewrite finished successfully

    ?

    看到啟動后重寫配置文件,然后自動連接6381這個新的master服務,開始從master 上全量同步數據

    ?

    查看6381這個新master日志

    ?

    //響應6379的同步請求
    2809:M 29 Jul 02:46:48.362 * Slave 127.0.0.1:6379 asks for synchronization //不接受同步部分數據請求 2809:M 29 Jul 02:46:48.362 * Partial resynchronization not accepted: Replication ID mismatch (Slave asked for '7b0dc6ac9c2188e3c92eb29eea200ea6c572619c', my replication IDs are '514edab0972b4b6e5388edc4f14fbdb4d223d39e' and '541cd938f43b4f144e647881af409fa1884ea5a4') //開始同步 2809:M 29 Jul 02:46:48.362 * Starting BGSAVE for SYNC with target: disk 2809:M 29 Jul 02:46:48.607 * Background saving started by pid 3041 3041:C 29 Jul 02:46:48.607 * DB saved on disk #6m內存用于寫復制 3041:C 29 Jul 02:46:48.608 * RDB: 6 MB of memory used by copy-on-write //后臺保存成功 2809:M 29 Jul 02:46:48.708 * Background saving terminated with success 2809:M 29 Jul 02:46:48.708 * Synchronization with slave 127.0.0.1:6379 succeeded

    ?

    查看sentinel日志

    6379sentinel.log

    //減去6379服務的主觀下線狀態 2908:X 29 Jul 02:46:37.610 # -sdown slave 127.0.0.1:6379 127.0.0.1 6379 @ mymaster 127.0.0.1 6381 //轉換為master6381 下的從服務 2908:X 29 Jul 02:46:47.628 * +convert-to-slave slave 127.0.0.1:6379 127.0.0.1 6379 @ mymaster 127.0.0.1 6381

    ?

    6380sentinel.log

    2937:X 29 Jul 02:46:37.767 # -sdown slave 127.0.0.1:6379 127.0.0.1 6379 @ mymaster 127.0.0.1 6381

    ?

    6381sentinel.log

    2961:X 29 Jul 02:46:38.023 # -sdown slave 127.0.0.1:6379 127.0.0.1 6379 @ mymaster 127.0.0.1 6381

    ?

    再看下6381這個新master的整個備份信息

    # Replication role:master connected_slaves:2 slave0:ip=127.0.0.1,port=6380,state=online,offset=1348132,lag=0 slave1:ip=127.0.0.1,port=6379,state=online,offset=1348132,lag=0 master_replid:514edab0972b4b6e5388edc4f14fbdb4d223d39e master_replid2:541cd938f43b4f144e647881af409fa1884ea5a4 master_repl_offset:1348132 second_repl_offset:617714 repl_backlog_active:1 repl_backlog_size:1048576 repl_backlog_first_byte_offset:299557 repl_backlog_histlen:1048576

    新的master 增加了一個slave6379 從服務

    ?

    我們再搭建前做的redis配置,當故障轉移成功后,這些配置會被重寫,重寫的內容基本都在配置文件的最后

    Redis.conf配置文件,多了

    # Generated by CONFIG REWRITE slaveof 127.0.0.1 6381

    ?

    Redis6381.conf配置文件沒有變

    # Master-Slave replication. Use slaveof to make a Redis instance a copy of # slaveof <masterip> <masterport> slaveof 127.0.0.1 6381

    ?

    新的master配置,也就是redis_slave6381.conf 已經沒有了slaveof 配置

    # Master-Slave replication. Use slaveof to make a Redis instance a copy of # slaveof <masterip> <masterport>

    Sentinel.conf 也會發生變化,可以自己去看看

    ?

    6:再次測試故障轉移后的 同步功能

    之前的master已經不再支持set

    127.0.0.1:6379> set name zhangxs (error) READONLY You can't write against a read only slave.

    新master set成功

    127.0.0.1:6381> set name zhangxs OK 127.0.0.1:6379> get name "zhangxs" 127.0.0.1:6380> get name "zhangxs"

    同步沒問題。

    ?

    轉移后的服務器變成了

    服務角色

    端口

    Redis.conf名稱

    sentinel配置文件名稱

    sentinel端口

    redis日志路徑

    sentinel路勁

    從(master)

    6379

    redis.conf

    sentinel.conf

    26379

    /home/zhangxs/data/redislog/redis_server/master.log

    /home/zhangxs/data/redislog/sentinel/sentinel6379.log

    從(slave)

    6380

    redis_slave6380.conf

    Sentinel6380.conf

    26380

    /home/zhangxs/data/redislog/redis_server/slave6380.log

    /home/zhangxs/data/redislog/sentinel/sentinel6380.log

    主(slave)

    6381

    redis_slave6381.conf

    Sentinel6381.conf

    26381

    /home/zhangxs/data/redislog/redis_server/slave6381.log

    /home/zhangxs/data/redislog/sentinel/sentinel6381.log

    ?

    ?

    ?

    參考文檔:http://www.redis.cn/topics

    轉載于:https://www.cnblogs.com/zhangXingSheng/p/9385885.html

    創作挑戰賽新人創作獎勵來咯,堅持創作打卡瓜分現金大獎

    總結

    以上是生活随笔為你收集整理的Redis-ha(sentinel)搭建的全部內容,希望文章能夠幫你解決所遇到的問題。

    如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。

    国产女v资源在线观看 | 西西4444www大胆视频 | 超碰97在线资源站 | 91av小视频 | 婷婷日 | 免费毛片aaaaaa | 久久综合狠狠 | www.啪啪.com | 亚洲黄a| 国产在线观看一区 | 亚洲欧美视屏 | 免费亚洲一区二区 | av在线网站观看 | 四虎影视精品永久在线观看 | 成人黄在线观看 | 久久久蜜桃| 国产精品不卡 | 黄色影院在线免费观看 | freejavvideo日本免费 | 婷婷综合五月天 | 日日爽天天操 | 国产精品美女视频 | 日b黄色片 | 胖bbbb搡bbbb擦bbbb| 一区二区三区免费在线播放 | 91av蜜桃 | 久久国产电影 | 伊在线视频 | 亚洲激情视频 | 免费毛片aaaaaa | 99精品在线看 | 国产麻豆精品免费视频 | 97视频人人澡人人爽 | 国产日产精品久久久久快鸭 | 精品一区二区三区四区在线 | www.久久免费 | 国产在线精品一区二区不卡了 | 国产免码va在线观看免费 | 少妇bbbb搡bbbb桶 | 亚洲 成人 一区 | 日韩视频一区二区三区在线播放免费观看 | 日韩在线视频一区二区三区 | 99在线免费视频 | 久久99视频精品 | 久久久av免费| 日韩成年视频 | 黄色av网站在线观看免费 | 久久你懂的 | 黄色精品在线看 | 麻豆超碰 | 人人射网站 | 狠狠色伊人亚洲综合成人 | 黄在线 | 一区在线观看 | 青青草在久久免费久久免费 | 久久99热国产 | 国产精品黄色在线观看 | 国产精品永久 | 久久久久久久毛片 | 国产高清视频在线免费观看 | 黄色在线看网站 | 久久成年人 | 日韩在线免费观看视频 | 国产精品一区二区三区在线免费观看 | 97av精品| 久久99国产精品二区护士 | 在线观看av国产 | 在线观看日本韩国电影 | 欧美另类v | 国产五月天婷婷 | 99精品视频免费全部在线 | av成人在线电影 | 国产夫妻性生活自拍 | 热久久国产| 看全黄大色黄大片 | 黄色精品免费 | 99福利影院 | 国产日韩精品欧美 | 国产性xxxx| 亚洲永久字幕 | 999国产精品视频 | av中文字幕免费在线观看 | 日韩精品一区不卡 | 亚洲欧美日韩在线一区二区 | 久久综合九色综合久久久精品综合 | 97人人模人人爽人人少妇 | 亚洲国产中文字幕在线视频综合 | 精品极品在线 | 成人精品一区二区三区电影免费 | 国产伦理一区 | av电影免费观看 | 国产视频精品网 | 天天天天射 | 激情图片qvod | 午夜精品福利一区二区 | 色诱亚洲精品久久久久久 | 九九久久久久99精品 | 国产欧美精品一区二区三区四区 | 在线观看中文字幕一区 | 天天操伊人 | 久操伊人| 国产成人a亚洲精品v | av色图天堂网 | 亚洲国产手机在线 | 国产黄色在线看 | 精品久久一二三区 | 美女在线免费视频 | 18国产精品白浆在线观看免费 | 美女久久久久 | 91视频免费| 在线 国产 亚洲 欧美 | 亚洲视频999 | 99久e精品热线免费 99国产精品久久久久久久久久 | 日日夜夜天天久久 | 天天天操天天天干 | 91成人在线网站 | 91色影院 | 中文字幕欧美激情 | 激情综合色综合久久综合 | 国产一区二区影院 | 日日夜夜网 | 精品不卡视频 | 欧美日本日韩aⅴ在线视频 插插插色综合 | 婷婷激情综合 | 久久久久久久久久福利 | 亚洲在线网址 | 久久a久久 | 91精品在线免费观看视频 | 人人干天天干 | 亚洲国产片 | 久久草视频 | 在线观看av片 | 免费一级黄色 | 伊人天天操 | 最近av在线 | 成年人视频在线免费观看 | 久久综合影院 | 成人av亚洲 | 久久久久国产精品免费网站 | 综合精品在线 | 婷婷丁香色 | 中文字幕在线观看视频一区 | 在线观看中文字幕2021 | 国产91影视 | av免费观看高清 | av软件在线观看 | 在线观看视频一区二区三区 | 国产一区二区三区视频在线 | 激情综合啪啪 | 久久久久久久久久久综合 | 蜜桃视频日韩 | 六月色丁 | 999久久国精品免费观看网站 | 亚洲成人黄色在线观看 | 天天操天天摸天天干 | 国产婷婷 | 国产香蕉97碰碰久久人人 | 伊人色综合久久天天 | 在线www色 | 久久精久久精 | 日韩最新在线视频 | 久久99网 | 波多野结衣在线视频免费观看 | 精品国产乱码久久久久久天美 | 亚洲夜夜网 | 国产91精品久久久久 | 久久成人国产精品一区二区 | 日韩av片免费在线观看 | 91成人久久 | 日韩理论电影网 | 欧美在线视频二区 | 91亚洲精品乱码久久久久久蜜桃 | 国产69精品久久久久9999apgf | 亚洲专区在线播放 | 玖玖在线视频观看 | 人人澡人人添人人爽一区二区 | 超碰国产在线观看 | 97人人模人人爽人人喊网 | 日韩中文在线电影 | 99久久精品网| 国产99色 | 在线直播av| 丰满少妇在线观看资源站 | 久久av在线播放 | 国产免费视频在线 | 国产a精品 | 国色天香永久免费 | 久久久久久国产精品久久 | 瑞典xxxx性hd极品 | 中文字幕在线观看视频一区二区三区 | 国产精品6| 中文字幕 国产精品 | 99久久日韩精品免费热麻豆美女 | 91豆麻精品91久久久久久 | avav99| 中文字幕日韩免费视频 | 国产精品一区二区免费看 | 韩日在线一区 | 不卡的av电影在线观看 | 欧美激情视频一二区 | 国产精品一区久久久久 | 久久久久色 | 日韩久久精品一区二区 | www.五月天色 | 国产成人在线看 | 二区三区在线 | 91九色最新 | 国产伦理精品一区二区 | 欧美日韩不卡一区二区 | 一级欧美一级日韩 | 免费观看v片在线观看 | 99se视频在线观看 | 黄色免费大片 | 在线观看免费版高清版 | 午夜精品久久久99热福利 | 成片免费观看视频 | 亚洲精品短视频 | 国产精品一级视频 | 91社区国产高清 | 国产理论一区二区三区 | 四虎成人精品永久免费av | 国产成人一区二区精品非洲 | 久久免费视频1 | 丰满少妇在线观看网站 | a色视频| 欧美综合色在线图区 | 91在线视频一区 | 日韩电影一区二区在线 | 超碰免费在线公开 | 在线综合色 | 亚洲免费精彩视频 | 日日摸日日添夜夜爽97 | 91av视频免费在线观看 | 国产日产精品一区二区三区四区 | 2023年中文无字幕文字 | 激情综合网天天干 | 欧美成天堂网地址 | 69国产在线观看 | 日韩精品一区电影 | 欧美日韩亚洲第一 | 99久久婷婷| 伊人激情综合 | 国内少妇自拍视频一区 | 亚洲精品高清视频 | 国产精品99久久久精品免费观看 | 色夜视频 | 久久视频在线免费观看 | 韩日精品视频 | 亚洲91中文字幕无线码三区 | 日本在线观看一区二区 | 国产高清视频免费最新在线 | 99久热在线精品视频观看 | 五月丁香 | 国产精品久久久一区二区 | 免费在线观看91 | 91看片在线播放 | 欧美另类tv| 人人干人人爽 | 婷婷成人亚洲综合国产xv88 | 粉嫩一二三区 | 天天射天天射天天 | 手机成人av | 久操视频在线免费看 | 久久免费片 | 国产伦精品一区二区三区无广告 | 亚洲综合狠狠干 | 日韩色视频在线观看 | www.成人精品 | 91av国产视频| 人人讲下载 | 国产精品久久电影观看 | 久久综合色影院 | 欧美久久综合 | 人人澡超碰碰 | 国产区免费在线 | 国产一区国产精品 | 高清免费av在线 | 国产日韩欧美在线看 | 久久在线免费观看视频 | 亚洲精品午夜久久久久久久久久久 | 99超碰在线观看 | www.五月天婷婷 | 久草视频资源 | 99九九免费视频 | 婷婷在线免费视频 | 免费在线观看91 | 久久久久女教师免费一区 | 黄色精品免费 | 免费高清在线观看电视网站 | 国产美女网 | 久久久久久久久久免费 | 亚洲欧美视频在线观看 | 中文字幕日本特黄aa毛片 | 综合网成人| 9999激情 | 久久手机看片 | 国产成人在线观看免费 | 中文乱码视频在线观看 | 亚洲精品免费在线 | 97视频久久久 | 成人免费观看视频大全 | 久久人人看 | 免费视频资源 | 99久久综合精品五月天 | 91久久久国产精品 | 一区二精品| 麻豆成人网 | 色综合天 | 国产剧情一区二区 | 九九视频一区 | 黄色午夜| 五月婷婷激情网 | 欧美一级免费片 | 在线亚洲人成电影网站色www | 色视频在线看 | 成人毛片在线视频 | 波多野结衣视频网址 | 国产精品一区免费观看 | 91人人视频在线观看 | 中文成人字幕 | 婷婷久久久| 亚州精品在线视频 | 亚洲aⅴ乱码精品成人区 | 在线看毛片网站 | 在线国产日韩 | 日韩精品欧美视频 | 免费看av在线 | 久久久婷| 美女久久网站 | 成人a免费看 | av资源免费在线观看 | 日日射av | 在线看的毛片 | 国产性xxxx| 国产不卡精品 | 日韩免费在线 | 欧美福利在线播放 | www国产亚洲精品久久网站 | 一区二区激情视频 | 色综合久久久久综合体桃花网 | 国产精品69久久久久 | 丁香婷婷社区 | 国产精品视频免费在线观看 | 国内精品久久久久久久久久久 | 亚洲视频免费 | 天天操天天操天天操天天操天天操 | 日韩精品视频在线观看网址 | 亚洲最大成人免费网站 | 免费看的国产视频网站 | 久久99久久99精品免观看软件 | 国产理论一区二区三区 | 亚洲人久久| av色影院 | 99精品一区二区三区 | 激情久久婷婷 | 91av蜜桃| 日本爱爱免费视频 | 91精品国产91久久久久福利 | 国产精品高清免费在线观看 | 久久夜色精品亚洲噜噜国4 午夜视频在线观看欧美 | 成人中文字幕+乱码+中文字幕 | 久久国产麻豆 | 国产精品完整版 | 一区二区欧美激情 | 黄色电影在线免费观看 | 欧美久久99| 欧美与欧洲交xxxx免费观看 | 亚洲天堂在线观看完整版 | 日韩精品一区二区三区在线播放 | 精品福利视频在线观看 | av不卡中文| 九九综合九九综合 | 国产精品乱码高清在线看 | 国产对白av | 91av色| 又黄又色又爽 | 国产 中文 日韩 欧美 | 日韩免费高清 | 麻豆免费在线视频 | 欧美福利片在线观看 | 久草久草在线观看 | 国产精品女主播一区二区三区 | 国产丝袜美腿在线 | 久久激情久久 | 欧美精品在线观看 | 国产一线在线 | 在线a视频免费观看 | 国产精品久久久网站 | 国产一区在线免费观看 | 国产精品不卡 | 中文字幕在线观看第三页 | 精品一区二区在线播放 | 亚州黄色一级 | 午夜精品久久久久久99热明星 | 激情综合啪 | 亚洲精品国产麻豆 | 成人亚洲综合 | 亚洲aⅴ免费在线观看 | 国产成人免费网站 | 久久好看免费视频 | 久久无码av一区二区三区电影网 | 99免费在线观看视频 | 中文字幕亚洲精品在线观看 | 1024手机基地在线观看 | 国产99久久精品一区二区永久免费 | 日本天天操 | 国产精品 久久 | 久久综合狠狠综合 | av在线网站观看 | 亚洲涩涩网站 | 免费看v片网站 | 国产在线污 | 成人在线观看网址 | 91国内在线 | 精品国产精品久久一区免费式 | 在线看黄网站 | 欧美一区二视频在线免费观看 | 天天操综 | 91大神免费在线观看 | 曰韩在线| 欧美在线91 | 天天人人 | 亚洲国产精品推荐 | 国产精品大尺度 | www九九热 | 国产小视频你懂的在线 | 高清免费在线视频 | 久久草在线视频国产 | 午夜久久网站 | 久久久久久久久久久久99 | 欧美男女爱爱视频 | 99中文在线 | 五月婷婷影视 | 99热国产在线中文 | 国产精品麻豆一区二区三区 | 天天天天色射综合 | 色先锋av资源中文字幕 | 五月婷婷丁香网 | 国产亚洲精品久久久网站好莱 | 成人黄色电影在线观看 | 久草精品在线播放 | 日韩一三区 | 日日摸日日添夜夜爽97 | 操操综合网| 91女神的呻吟细腰翘臀美女 | 91精品影视 | 亚州免费视频 | 99久久久国产免费 | www夜夜| 国产高清日韩 | 国产精品18久久久久白浆 | av中文字幕在线免费观看 | 在线国产专区 | 午夜在线观看一区 | 亚洲精品五月天 | 一区二区中文字幕在线观看 | 久久成人麻豆午夜电影 | 亚洲高清资源 | 亚洲欧美视频在线播放 | 久久y | 日韩精品一区二区在线观看视频 | 少妇视频一区 | 成年人在线免费看 | 六月丁香激情综合色啪小说 | 亚洲精品美女久久久久 | 久久免费国产精品 | 人人爱天天操 | 免费99视频| 二区在线播放 | 狠狠色狠狠色终合网 | 麻豆免费视频观看 | 亚洲黄网址| 国产亚州av | 日韩欧美视频在线免费观看 | 精品少妇一区二区三区在线 | 香蕉在线观看 | 亚洲国产一区在线观看 | 欧美成人精品在线 | 日韩国产精品久久久久久亚洲 | 国产伦理久久精品久久久久_ | 黄色亚洲大片免费在线观看 | av手机版| 国产成人黄色 | 伊人婷婷久久 | 国产91学生粉嫩喷水 | 久久久国产在线视频 | 一区二区三区在线影院 | 久久天天躁夜夜躁狠狠躁2022 | 国产精品网红直播 | 九九在线播放 | 碰超在线观看 | 五月天九九 | 国产护士av | 日韩一区二区三区免费视频 | 蜜臀av在线一区二区三区 | av成人资源| 国产精品高清在线 | 国产精品久久久久久久久久ktv | 91亚洲精品久久久蜜桃网站 | 蜜臀av性久久久久蜜臀aⅴ涩爱 | 亚洲人在线视频 | 天天干天天做 | 亚洲电影图片小说 | 国产一区在线视频 | 很污的网站 | 人人搞人人搞 | 久久精品xxx | 久久色在线观看 | 午夜精品一区二区三区在线观看 | 国产福利91精品一区二区三区 | 亚洲成人免费观看 | 91麻豆传媒 | 日韩一级黄色片 | 亚洲精品欧洲精品 | 久草在线视频在线 | 国产精品久久久久毛片大屁完整版 | av福利超碰网站 | 91精品中文字幕 | 日日精品 | 高清久久久 | 91av在线精品| 免费看v片网站 | 噜噜色官网 | 精品一区二区久久久久久久网站 | 亚洲作爱视频 | 国产精品二区在线 | av电影免费在线播放 | 婷婷色5月 | 精品国产一区二区三区免费 | 国产日韩精品在线 | 一区三区在线欧 | 国产在线观看你懂得 | 高清国产午夜精品久久久久久 | 一区二区亚洲精品 | aaa亚洲精品一二三区 | 在线免费观看的av | 国产一级片免费观看 | 日韩av中文在线观看 | 免费观看成人网 | 国产精品久久嫩一区二区免费 | 激情久久一区二区三区 | 8x成人免费视频 | 中文字幕日韩精品有码视频 | 中文字幕在线看 | 狠狠的干狠狠的操 | 精品一区二区亚洲 | 国产在线观看av | 久久综合综合久久综合 | 免费看污黄网站 | 日日爽视频 | 天天操狠狠操夜夜操 | 亚洲国产成人久久 | 成人一区二区三区中文字幕 | 免费瑟瑟网站 | 极品嫩模被强到高潮呻吟91 | 日日爽天天操 | 久久久久久久久爱 | 久久国产精品久久久久 | 超碰在线人人97 | 国产九九热视频 | 欧美成人xxx | 亚洲电影一级黄 | 伊人电影在线观看 | 免费福利视频网站 | 欧美日韩国产高清视频 | 少妇做爰k8经典 | 国产又粗又猛又色 | 米奇狠狠狠888 | 成人性生活大片 | 国产精品成人在线观看 | 黄色午夜网站 | 日韩免费一级a毛片在线播放一级 | 国产一级二级在线 | 国产免费嫩草影院 | 青青久草在线 | 免费观看国产视频 | 98超碰人人| 日韩精品中文字幕在线观看 | 精品国产大片 | 少妇bbb搡bbbb搡bbbb′ | 欧美高清成人 | 97超级碰碰碰视频在线观看 | 欧美一级黄大片 | 亚洲精品国产精品乱码不99热 | 中文字幕丝袜一区二区 | 亚洲精品视频偷拍 | 国产97超碰 | 国产色秀视频 | 中文字幕在线播放日韩 | 欧美少妇xx | 天天综合天天综合 | 精品一区二区免费视频 | 亚洲精品午夜久久久久久久 | 国产精品欧美久久久久三级 | 成人av在线一区二区 | 亚洲精品欧美精品 | 成人作爱视频 | 久久综合久久伊人 | 久久久久久久网 | 国内视频在线观看 | 国产手机视频精品 | 欧美精品二区 | 中文字幕韩在线第一页 | 99久久精品一区二区成人 | 天天干夜夜爽 | 国产精品综合在线观看 | 国产精品久久久久久久久久久免费 | av解说在线 | 九九涩涩av台湾日本热热 | 久久精品一二区 | 丁香激情综合国产 | 国产无遮挡又黄又爽馒头漫画 | 精品久久久久国产免费第一页 | 久久国产精品一区二区三区 | 久草视频播放 | 99 色 | 久久久午夜视频 | 免费久久精品视频 | 五月婷在线播放 | 日日日天天天 | 91亚洲网| 日韩欧美高清在线观看 | 97在线资源 | 久久久久久国产精品999 | 国产精品自产拍在线观看中文 | 91精品国产成人 | 亚洲网站在线看 | 欧美一区二区在线 | 国产视频精选在线 | 日本性久久 | 天天躁日日躁狠狠躁 | 丁香5月婷婷 | 亚洲自拍自偷 | 99精品久久久久久久久久综合 | 国产99久久久久久免费看 | 毛片网在线 | av成人在线观看 | 成人中文字幕+乱码+中文字幕 | 日韩精品在线播放 | 天天操综合网站 | 97视频免费看| 欧美另类高清 | 久久久国产精品亚洲一区 | 国产视频1 | 黄网av在线 | 日韩网站中文字幕 | 国产亚洲日| 精品在线播放 | 国产天天综合 | 91九色视频观看 | 美女中文字幕 | 亚洲综合色激情五月 | av电影一区二区 | 一区二区三区在线影院 | 色偷偷88888欧美精品久久久 | zzijzzij日本成熟少妇 | 久久在线观看 | 日韩精选在线观看 | 成人播放器 | 9在线观看免费高清完整 | 最新日韩在线观看视频 | 午夜精品一区二区国产 | 中文字幕在线视频一区二区三区 | 成人国产精品久久久久久亚洲 | 色婷婷电影 | 91尤物在线播放 | 国产精品久久久久久久午夜 | 国产xxxx性hd极品 | 精品视频成人 | 婷婷色婷婷 | 久久 精品一区 | 日韩中文在线电影 | 91成人破解版 | 超碰在线资源 | av蜜桃在线 | 日日操夜| 国产精国产精品 | 久久婷亚洲五月一区天天躁 | 97视频人人 | 福利电影一区二区 | 91在线看视频免费 | 在线免费观看黄色小说 | 日韩精品黄| 国产美女视频免费 | 狠狠的操你 | 免费色网 | 精品视频在线免费观看 | 在线观看www91 | 中文字幕在线播出 | 日韩在线色 | 欧美伦理一区 | 婷婷六月在线 | 亚洲精选在线 | 久久久国产视频 | 欧美激情视频在线观看免费 | 婷婷深爱 | 国产精品一区专区欧美日韩 | 国产一级黄色免费看 | 干狠狠 | 人人插人人插 | 热久久99这里有精品 | av在线影视 | 91精品一区在线观看 | 四虎在线免费观看视频 | 成人在线视频免费 | 天天干天天天天 | 亚洲精品视频二区 | 激情五月色播五月 | 日批视频国产 | 久久久久久久久久久久亚洲 | 五月亚洲婷婷 | 精品v亚洲v欧美v高清v | 国产成人免费av电影 | 日韩中文字幕一区 | 国产精品久久久久国产精品日日 | 国产一级高清视频 | 久久99欧美 | 伊人精品在线 | 一区二区三区精品在线 | 天天操天天干天天爱 | 人人草人| 四虎影视成人精品 | 97超碰成人在线 | 日韩一区二区三免费高清在线观看 | 久久96国产精品久久99漫画 | 精品久久影院 | 91在线免费公开视频 | 狠狠干狠狠插 | 精品视频在线免费观看 | 婷婷激情av | 最新日韩中文字幕 | 少妇性bbb搡bbb爽爽爽欧美 | 久久一视频 | 中文字幕乱码亚洲精品一区 | 久久亚洲综合国产精品99麻豆的功能介绍 | 免费在线观看视频一区 | 久久激情视频 久久 | mm1313亚洲精品国产 | 午夜影院在线观看18 | 精品爱爱 | 国产精品18毛片一区二区 | 久久国产精品免费一区 | 精品一区二区电影 | 亚洲国产小视频在线观看 | 99综合电影在线视频 | 成人a级网站 | 成人黄色在线视频 | 欧美日韩精品在线一区二区 | 国产在线看一区 | 亚洲国产精品小视频 | 麻豆极品 | 亚洲精品网址在线观看 | 一本一本久久aa综合精品 | 月丁香婷婷 | 98精品国产自产在线观看 | 综合天堂av久久久久久久 | 成人a免费视频 | 99精品欧美一区二区蜜桃免费 | 色偷偷88欧美精品久久久 | 亚洲日本黄色 | 99久久精品免费看国产四区 | 香蕉久久久久久av成人 | 国产主播99 | 91av中文 | 99久久999久久久精玫瑰 | 99久久毛片 | 国产成人三级一区二区在线观看一 | 成人资源在线播放 | 国产视频在线观看一区 | 黄色大全视频 | 激情av网址 | 欧美午夜理伦三级在线观看 | 天天干天天操天天射 | 波多野结衣在线播放视频 | 成人网页在线免费观看 | 一区二区三区四区五区在线 | 在线色吧 | 五月天精品视频 | 亚洲区另类春色综合小说校园片 | 国产精品久久伊人 | 国产精品久久免费看 | 欧美成人按摩 | 久久久久久美女 | 日韩精品在线免费播放 | a级国产乱理伦片在线播放 久久久久国产精品一区 | 久久久久国产精品午夜一区 | 99热这里只有精品久久 | 久久九九精品 | 五月开心婷婷 | 亚洲国产精品成人女人久久 | 欧美另类成人 | av中文字幕在线观看网站 | 999热线在线观看 | 日韩高清免费在线 | 在线日韩中文字幕 | 久久9999久久免费精品国产 | 日日操天天操狠狠操 | 超黄视频网站 | 一级黄色免费网站 | 日本久久中文 | 欧美日韩国产区 | 久久久久久久久免费视频 | 天天干天天干天天干天天干天天干天天干 | 人人插人人搞 | 亚洲成人精品国产 | 91精品国产亚洲 | 国产成年人av | 午夜精品一区二区三区在线 | 国产精品涩涩屋www在线观看 | 成人福利在线 | 2023国产精品自产拍在线观看 | 亚洲人成免费网站 | 欧美日韩一区二区久久 | 制服丝袜欧美 | 中文字幕中文 | 激情综合五月 | 国产无套视频 | 国产精品免费久久久久 | 国产精品18videosex性欧美 | 日韩午夜电影院 | 国产免费又粗又猛又爽 | 国产成人精品免费在线观看 | 久久久九色精品国产一区二区三区 | 96久久欧美麻豆网站 | 成人在线视频网 | 久久精品这里热有精品 | 欧美在线视频第一页 | zzijzzij日本成熟少妇 | 成人免费视频网站在线观看 | 国产精品毛片一区视频播不卡 | 色播激情五月 | 午夜三级毛片 | 亚洲在线资源 | 久久久久五月天 | 久久久久久网址 | 最新色视频 | 92国产精品久久久久首页 | 狠狠色网| 97精品国产一二三产区 | 欧美国产精品久久久久久免费 | 四虎影视成人精品国库在线观看 | 国产精品精品国产色婷婷 | 99久久精品国产毛片 | 久草在线视频免赞 | 日日草天天草 | 日日干影院 | 精品久久久一区二区 | 黄色免费大片 | 精品人妖videos欧美人妖 | 国产97视频在线 | 91中文字幕一区 | 97超碰国产精品 | 国产精品第2页 | 久精品一区 | 色资源网在线观看 | 日韩免费一二三区 | 久久久久高清毛片一级 | 正在播放国产精品 | 国产精品久久久久久久久久新婚 | 成人午夜影视 | 日本高清xxxx | 日韩在线中文字幕 | 丰满少妇对白在线偷拍 | 欧美性生活免费 | 亚洲dvd| 久久www免费人成看片高清 | 在线精品一区二区 | 免费观看黄色12片一级视频 | av一二三区 | 国产精品ⅴa有声小说 | 天天干亚洲 | 午夜精品久久久久久中宇69 | 国产精品欧美一区二区 | 亚洲综合一区二区精品导航 | 久久艹国产 | 五月在线视频 | 在线观看视频三级 | 欧美狠狠色 | 狠狠狠色丁香婷婷综合久久五月 | 一区二区视频在线免费观看 | 婷婷在线免费视频 | 欧美国产大片 | 成人一区二区三区中文字幕 | 国产亚洲资源 | 日本黄区免费视频观看 | 日韩欧美精品一区二区 | 成人羞羞视频在线观看免费 | 丁香六月婷 | 亚洲精品网址在线观看 | 五月婷婷综合激情网 | 麻花豆传媒mv在线观看网站 | 亚洲国产精品小视频 | 国产在线精品视频 | 欧洲一区二区三区精品 | 亚洲va天堂va欧美ⅴa在线 | 国产一级性生活 | 日韩精品中文字幕在线观看 | 久久99在线视频 | 免费观看性生活大片3 | 午夜成人免费影院 | 免费91在线观看 | 欧美一级在线 | 免费日韩 精品中文字幕视频在线 | 人人爱人人添 | 在线观看视频91 | 成人免费一区二区三区在线观看 | 亚洲免费黄色 | 97成人在线观看视频 | 亚洲欧美婷婷六月色综合 | 免费av视屏 | 久久9999久久免费精品国产 | 伊人色综合久久天天 | 国产精品网在线观看 | 国产不卡一区二区视频 | 五月婷婷一区二区三区 | 九九综合九九 | 久久久久久久久久久久久久av | 欧美精品一区二区免费 | 天天添夜夜操 | 18av在线视频 | 欧美综合色在线图区 | 2022久久国产露脸精品国产 | 999视频精品 | 97小视频 | 亚洲乱码久久 | www.黄色片.com | 免费看一级特黄a大片 | 成人av免费在线观看 | 99九九热只有国产精品 | 天天干天天操 | 最近日韩中文字幕中文 | 国产在线久草 | 精品uu | 天天天操天天天干 | av综合站 | 精品久久久久久久久久久久久久久久 | 国产黄色片一级 | 四虎永久精品在线 | 九九热在线观看视频 | 久久免费av电影 | 69视频永久免费观看 | 欧美一级视频免费看 | 免费在线观看一级片 | 国产精品综合久久久久 | 国产美女被啪进深处喷白浆视频 | 亚洲综合涩 | www.夜夜爽| 日韩在线中文字幕 | 中文字幕在线看视频国产中文版 | 天天爱综合 | 丝袜美女视频网站 | 亚洲精品视频在线看 | 国产中的精品av小宝探花 | 久久人人爽人人 | 亚洲一区二区三区毛片 | 毛片播放网站 | 久久99久久99精品免视看婷婷 | 69国产精品视频 | 国产无限资源在线观看 | 激情婷婷色 | 91天天操 | 日韩激情视频在线 | 欧美日韩视频一区二区 | 国产系列精品av | 三级黄色在线 | 国产在线欧美日韩 | 2019中文最近的2019中文在线 | 狠狠色伊人亚洲综合网站色 | 美女视频黄,久久 | 亚洲精品国产精品国自产在线 | 色婷婷88av视频一二三区 | 97在线视频网站 | 国产精品成人av在线 | 激情欧美一区二区免费视频 | 97免费公开视频 | 欧美在线视频一区二区 | 亚洲伦理一区二区 | 波多野结衣电影一区二区三区 | 天天操天天干天天爽 | 免费一级特黄录像 | 91在线观看高清 | 欧美色综合天天久久综合精品 | 99久精品| 黄色大片网 | 五月婷婷激情综合网 | 国产精品第2页 | 一区二区三区免费在线观看视频 | 中文字幕免费观看视频 | 青草视频在线看 | 久久精品96 | 国产精品一区二区免费视频 | 九九九电影免费看 | 美国av大片 | 色噜噜在线观看视频 | 中文字幕一区二区三区乱码在线 | 精品久久久久久综合 | 亚洲成aⅴ人片久久青草影院 | 在线观看免费av片 |