日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 运维知识 > 数据库 >内容正文

数据库

Redis源码解析:21sentinel(二)定期发送消息、检测主观下线

發布時間:2023/11/30 数据库 45 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Redis源码解析:21sentinel(二)定期发送消息、检测主观下线 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

六:定時發送消息

???????? 哨兵每隔一段時間,會向其所監控的所有實例發送一些命令,用于獲取這些實例的狀態。這些命令包括:”PING”、”INFO”和”PUBLISH”。

???????? “PING”命令,主要用于哨兵探測實例是否活著。如果對方超過一段時間,還沒有回復”PING”命令,則認為其是主觀下線了。

???????? “INFO”命令,主要用于哨兵獲取實例當前的狀態和信息,比如該實例當前是主節點還是從節點;該實例反饋的IP地址和PORT信息,是否與我記錄的一樣;該實例如果是主節點的話,那它都有哪些從節點;該實例如果是從節點的話,它與主節點是否連通,它的優先級是多少,它的復制偏移量是多少等等,這些信息在故障轉移流程中,是判斷實例狀態的重要信息;

???????? “PUBLISH”命令,主要用于哨兵向實例的HELLO頻道發布有關自己以及主節點的信息,也就是所謂的HELLO消息。因為所有哨兵都會訂閱主節點和從節點的HELLO頻道,因此,每個哨兵都會收到其他哨兵發布的信息。

???????? 因此,通過這些命令,盡管在配置文件中只配置了主節點的信息,但是哨兵可以通過主節點的”INFO”回復,得到所有從節點的信息;又可以通過訂閱實例的HELLO頻道,接收其他哨兵通過”PUBLISH”命令發布的信息,從而得到監控同一主節點的所有其他哨兵的信息。

?

???????? 在“主函數”sentinelHandleRedisInstance中,是通過調用sentinelSendPeriodicCommands來發送這些命令的。注意,以上的命令都有自己的發送周期,在sentinelSendPeriodicCommands函數中,并不是一并發送三個命令,而是發送那些,按照發送周期應該發送的命令。該函數的代碼如下:

void sentinelSendPeriodicCommands(sentinelRedisInstance *ri) {mstime_t now = mstime();mstime_t info_period, ping_period;int retval;/* Return ASAP if we have already a PING or INFO already pending, or* in the case the instance is not properly connected. */if (ri->flags & SRI_DISCONNECTED) return;/* For INFO, PING, PUBLISH that are not critical commands to send we* also have a limit of SENTINEL_MAX_PENDING_COMMANDS. We don't* want to use a lot of memory just because a link is not working* properly (note that anyway there is a redundant protection about this,* that is, the link will be disconnected and reconnected if a long* timeout condition is detected. */if (ri->pending_commands >= SENTINEL_MAX_PENDING_COMMANDS) return;/* If this is a slave of a master in O_DOWN condition we start sending* it INFO every second, instead of the usual SENTINEL_INFO_PERIOD* period. In this state we want to closely monitor slaves in case they* are turned into masters by another Sentinel, or by the sysadmin. */if ((ri->flags & SRI_SLAVE) &&(ri->master->flags & (SRI_O_DOWN|SRI_FAILOVER_IN_PROGRESS))) {info_period = 1000;} else {info_period = SENTINEL_INFO_PERIOD;}/* We ping instances every time the last received pong is older than* the configured 'down-after-milliseconds' time, but every second* anyway if 'down-after-milliseconds' is greater than 1 second. */ping_period = ri->down_after_period;if (ping_period > SENTINEL_PING_PERIOD) ping_period = SENTINEL_PING_PERIOD;if ((ri->flags & SRI_SENTINEL) == 0 &&(ri->info_refresh == 0 ||(now - ri->info_refresh) > info_period)){/* Send INFO to masters and slaves, not sentinels. */retval = redisAsyncCommand(ri->cc,sentinelInfoReplyCallback, NULL, "INFO");if (retval == REDIS_OK) ri->pending_commands++;} else if ((now - ri->last_pong_time) > ping_period) {/* Send PING to all the three kinds of instances. */sentinelSendPing(ri);} else if ((now - ri->last_pub_time) > SENTINEL_PUBLISH_PERIOD) {/* PUBLISH hello messages to all the three kinds of instances. */sentinelSendHello(ri);} }

? ? ? ???如果實例標志位中設置了SRI_DISCONNECTED標記,說明當前實例的異步上下文還沒有創建好,因此直接返回;

???????? 實例的pending_commands屬性,表示已經向該實例發送的命令中,尚有pending_commands個命令還沒有收到回復。每次調用redisAsyncCommand函數,向實例異步發送一條命令之后,就會增加該屬性的值,而每當收到命令回復之后,就會減少該屬性的值;

? ? ? ???因此,如果該屬性的值大于SENTINEL_MAX_PENDING_COMMANDS(100),說明該實例尚有超過100條命令的回復信息沒有收到。這種情況下,說明與實例的連接已經不正常了,為了節約內存,因此直接返回;

???????? 接下來計算info_period和ping_period,這倆值表示發送"INFO"和"PING"命令的時間周期。如果當前時間距離上次收到"INFO"或"PING"回復的時間已經超過了info_period或ping_period,則向實例發送"INFO"或"PING"命令;

???????? 如果當前實例為從節點,并且該從節點對應的主節點已經客觀下線了,則置info_period為1000,否則的話置為SENTINEL_INFO_PERIOD(10000)。之所以在主節點客觀下線后更頻繁的向從節點發送"INFO"命令,是因為從節點可能會被置為新的主節點,因此需要更加實時的獲取其狀態;

???????? 將ping_period置為ri->down_after_period的值,該屬性的值是根據配置文件中down-after-milliseconds選項得到的,如果該屬性值大于SENTINEL_PING_PERIOD(1000),則將ping_period置為SENTINEL_PING_PERIOD;

???????? 接下來開始發送命令:如果當前實例不是哨兵實例,并且距離上次收到"INFO"命令回復已經超過了info_period,則向該實例異步發送"INFO"命令。

???????? 否則,如果距離上次收到"PING"命令回復已經超過了ping_period,則調用函數sentinelSendPing向該實例異步發送"PING"命令;

???????? 否則,如果距離上次收到"PUBLISH"命令的回復已經超過了SENTINEL_PUBLISH_PERIOD(2000),則調用函數sentinelSendHello向該實例異步發送"PUBLISH"命令;

???????? 因此,"PING"用于探測實例是否活著,可以發送給所有類型的實例;而"INFO"命令用于獲取實例的信息,只需發送給主節點和從節點實例;而"PUBLISH"用于向HELLO頻道發布哨兵本身和主節點的信息,除了發送給主節點和從節點之外,哨兵本身也實現了"PUBLISH"命令的處理函數,因此該命令也會發送給哨兵實例。

?

1:PING消息

???????? 函數sentinelSendPing用于向實例發送”PING”命令,因為該命令用于探測實例是否主觀下線,因此等到后面講解主觀下線是在分析。

?

2:HELLO消息

???????? 函數sentinelSendHello用于發布HELLO消息,它的代碼如下:

int sentinelSendHello(sentinelRedisInstance *ri) {char ip[REDIS_IP_STR_LEN];char payload[REDIS_IP_STR_LEN+1024];int retval;char *announce_ip;int announce_port;sentinelRedisInstance *master = (ri->flags & SRI_MASTER) ? ri : ri->master;sentinelAddr *master_addr = sentinelGetCurrentMasterAddress(master);if (ri->flags & SRI_DISCONNECTED) return REDIS_ERR;/* Use the specified announce address if specified, otherwise try to* obtain our own IP address. */if (sentinel.announce_ip) {announce_ip = sentinel.announce_ip;} else {if (anetSockName(ri->cc->c.fd,ip,sizeof(ip),NULL) == -1)return REDIS_ERR;announce_ip = ip;}announce_port = sentinel.announce_port ?sentinel.announce_port : server.port;/* Format and send the Hello message. */snprintf(payload,sizeof(payload),"%s,%d,%s,%llu," /* Info about this sentinel. */"%s,%s,%d,%llu", /* Info about current master. */announce_ip, announce_port, server.runid,(unsigned long long) sentinel.current_epoch,/* --- */master->name,master_addr->ip,master_addr->port,(unsigned long long) master->config_epoch);retval = redisAsyncCommand(ri->cc,sentinelPublishReplyCallback, NULL, "PUBLISH %s %s",SENTINEL_HELLO_CHANNEL,payload);if (retval != REDIS_OK) return REDIS_ERR;ri->pending_commands++;return REDIS_OK; }

? ? ? ???首先得到實例ri所屬的主節點實例master;然后調用sentinelGetCurrentMasterAddress函數得到master的地址信息;

???????? 如果實例ri的標志位中具有SRI_DISCONNECTED標記的話,直接返回;

???????? 如果當前哨兵配置了sentinel.announce_ip的話,則使用該ip信息作為自己的ip地址,否則,調用anetSockName函數,根據socket描述符得到當前哨兵的ip地址;

???????? 如果當前哨兵配置了sentinel.announce_port的話,則使用該port信息作為自己的端口信息,否則,使用server.port作為當前哨兵的端口信息;

???????? 接下來組裝要發布的HELLO信息,HELLO信息的格式是:"sentinel_ip,sentinel_port,sentinel_runid,current_epoch,master_name,master_ip,master_port,master_config_epoch"

???????? 接下來,向ri異步發送"PUBLISH__sentinel__:hello <HELLO>"命令,設置命令回調函數為sentinelPublishReplyCallback;

?

???????? 當哨兵收到實例對于該”PUBLISH”命令的回復之后,會調用回調函數sentinelPublishReplyCallback,該函數只用于更新屬性ri->last_pub_time,對回復內容無需關心:

void sentinelPublishReplyCallback(redisAsyncContext *c, void *reply, void *privdata) {sentinelRedisInstance *ri = c->data;redisReply *r;REDIS_NOTUSED(privdata);if (ri) ri->pending_commands--;if (!reply || !ri) return;r = reply;/* Only update pub_time if we actually published our message. Otherwise* we'll retry again in 100 milliseconds. */if (r->type != REDIS_REPLY_ERROR)ri->last_pub_time = mstime(); }

?

???????? 之前在介紹sentinelReconnectInstance函數時講過,當哨兵向主節點或從節點實例建立訂閱連接時,向實例發送” SUBSCRIBE __sentinel__:hello"命令,訂閱HELLO頻道時,設置該命令的回調函數為sentinelReceiveHelloMessages。因此,當收到該頻道上發布的消息時,就會調用函數sentinelReceiveHelloMessages。

???????? 該頻道上的消息,是監控同一實例的其他哨兵節點發來的HELLO消息,當前哨兵通過HELLO消息,來發現其他哨兵,并且相互之間交互最新的主節點信息。sentinelReceiveHelloMessages函數的代碼如下:

void sentinelReceiveHelloMessages(redisAsyncContext *c, void *reply, void *privdata) {sentinelRedisInstance *ri = c->data;redisReply *r;REDIS_NOTUSED(privdata);if (!reply || !ri) return;r = reply;/* Update the last activity in the pubsub channel. Note that since we* receive our messages as well this timestamp can be used to detect* if the link is probably disconnected even if it seems otherwise. */ri->pc_last_activity = mstime();/* Sanity check in the reply we expect, so that the code that follows* can avoid to check for details. */if (r->type != REDIS_REPLY_ARRAY ||r->elements != 3 ||r->element[0]->type != REDIS_REPLY_STRING ||r->element[1]->type != REDIS_REPLY_STRING ||r->element[2]->type != REDIS_REPLY_STRING ||strcmp(r->element[0]->str,"message") != 0) return;/* We are not interested in meeting ourselves */if (strstr(r->element[2]->str,server.runid) != NULL) return;sentinelProcessHelloMessage(r->element[2]->str, r->element[2]->len); }

???????? 該函數中,首先更新ri->pc_last_activity為當前時間;

???????? 然后判斷是否處理接收到的消息,注意,只處理"message"消息,也就是說不會處理"subscribe"消息;

???????? 注意,如果收到的"message"消息中,包含了自身的runid,說明這是本哨兵自己發送的消息,因此無需處理,直接返回;

???????? 最后,調用sentinelProcessHelloMessage函數處理收到的HELLO消息;

? ? ? ???注意:在測試時發現會收到從節點重復的HELLO消息,也就是同一時間,同一個哨兵發布的兩條一模一樣的消息。這是因為哨兵向主節點發送的”PUBLISH”命令,會因為主從復制的原因,而同步到從節點;而同時該哨兵也向從節點發送”PUBLISH”命令,因此,從節點就會在同一時間,收到兩條一模一樣的HELLO消息,并將它們發布到頻道上。

?

???????? 另外,一旦哨兵發現了其他哨兵之后,可以直接向其發送"PUBLISH __sentinel__:hello <HELLO>"命令。哨兵自己實現了”PUBLISH”的處理函數sentinelPublishCommand,當收到其他哨兵直接發來的HELLO消息時,就會調用該函數處理。該函數的代碼如下:

void sentinelPublishCommand(redisClient *c) {if (strcmp(c->argv[1]->ptr,SENTINEL_HELLO_CHANNEL)) {addReplyError(c, "Only HELLO messages are accepted by Sentinel instances.");return;}sentinelProcessHelloMessage(c->argv[2]->ptr,sdslen(c->argv[2]->ptr));addReplyLongLong(c,1); }


???????? 因此,不管是從真正的訂閱頻道中收到HELLO消息,還是直接收到其他哨兵發來的”PUBLISH”命令,最終都是通過sentinelProcessHelloMessage函數對HELLO消息進行處理的。該函數的代碼如下:

void sentinelProcessHelloMessage(char *hello, int hello_len) {/* Format is composed of 8 tokens:* 0=ip,1=port,2=runid,3=current_epoch,4=master_name,* 5=master_ip,6=master_port,7=master_config_epoch. */int numtokens, port, removed, master_port;uint64_t current_epoch, master_config_epoch;char **token = sdssplitlen(hello, hello_len, ",", 1, &numtokens);sentinelRedisInstance *si, *master;if (numtokens == 8) {/* Obtain a reference to the master this hello message is about */master = sentinelGetMasterByName(token[4]);if (!master) goto cleanup; /* Unknown master, skip the message. *//* First, try to see if we already have this sentinel. */port = atoi(token[1]);master_port = atoi(token[6]);si = getSentinelRedisInstanceByAddrAndRunID(master->sentinels,token[0],port,token[2]);current_epoch = strtoull(token[3],NULL,10);master_config_epoch = strtoull(token[7],NULL,10);if (!si) {/* If not, remove all the sentinels that have the same runid* OR the same ip/port, because it's either a restart or a* network topology change. */removed = removeMatchingSentinelsFromMaster(master,token[0],port,token[2]);if (removed) {sentinelEvent(REDIS_NOTICE,"-dup-sentinel",master,"%@ #duplicate of %s:%d or %s",token[0],port,token[2]);}/* Add the new sentinel. */si = createSentinelRedisInstance(NULL,SRI_SENTINEL,token[0],port,master->quorum,master);if (si) {sentinelEvent(REDIS_NOTICE,"+sentinel",si,"%@");/* The runid is NULL after a new instance creation and* for Sentinels we don't have a later chance to fill it,* so do it now. */si->runid = sdsnew(token[2]);sentinelFlushConfig();}}/* Update local current_epoch if received current_epoch is greater.*/if (current_epoch > sentinel.current_epoch) {sentinel.current_epoch = current_epoch;sentinelFlushConfig();sentinelEvent(REDIS_WARNING,"+new-epoch",master,"%llu",(unsigned long long) sentinel.current_epoch);}/* Update master info if received configuration is newer. */if (master->config_epoch < master_config_epoch) {master->config_epoch = master_config_epoch;if (master_port != master->addr->port ||strcmp(master->addr->ip, token[5])){sentinelAddr *old_addr;sentinelEvent(REDIS_WARNING,"+config-update-from",si,"%@");sentinelEvent(REDIS_WARNING,"+switch-master",master,"%s %s %d %s %d",master->name,master->addr->ip, master->addr->port,token[5], master_port);old_addr = dupSentinelAddr(master->addr);sentinelResetMasterAndChangeAddress(master, token[5], master_port);sentinelCallClientReconfScript(master,SENTINEL_OBSERVER,"start",old_addr,master->addr);releaseSentinelAddr(old_addr);}}/* Update the state of the Sentinel. */if (si) si->last_hello_time = mstime();}cleanup:sdsfreesplitres(token,numtokens); }

? ? ? ???首先,根據消息中的master_name,調用函數sentinelGetMasterByName,在字典sentinel.masters中尋找相應的主節點實例master,如果找不到,則直接退出;

???????? 然后,調用getSentinelRedisInstanceByAddrAndRunID函數,根據消息中的sentinel_ip,sentinel_port和sentinel_runid信息,在字典master->sentinels中,找到runid,ip和port都匹配的哨兵實例。

???????? 如果沒有找到匹配的哨兵實例,要么這是一個新發現的哨兵,要么是某個哨兵的信息發生了變化(比如有可能某個哨兵實例重啟了,導致runid發生了變化;或者網絡拓撲發生了變化,導致ip或port發生了變化)。

???????? 這種情況下,首先調用函數removeMatchingSentinelsFromMaster,刪除字典master->sentinels中,具有相同runid,或者具有相同ip和port的哨兵實例;然后根據HELLO消息中的ip和port信息,重新創建一個新的哨兵實例,添加到字典master->sentinels中,這樣下次調用sentinelReconnectInstance時,就會向該哨兵實例進行建鏈了。;

???????? 如果找到了匹配的哨兵實例,并且HELLO消息中的sentinel_current_epoch,大于本實例當前的current_epoch,則更新本實例的current_epoch屬性;

???????? 如果HELLO消息中的master_config_epoch,大于本實例記錄的master的config_epoch,則更新本實例記錄的master的config_epoch。并且如果HELLO消息中的master_ip或master_port,與本實例記錄的主節點的ip或port信息不匹配的話,則說明可能發生了故障轉移,某個從節點升級成為了新的主節點,因此調用sentinelResetMasterAndChangeAddress函數,重置主節點,及其從節點實例的信息;

???????? 最后,更新si->last_hello_time屬性為當前時間;

?

3:”INFO”命令

???????? “INFO”命令,主要用于哨兵獲取主從節點實例當前的狀態和信息,比如該實例當前是主節點還是從節點;該實例反饋的IP地址和PORT信息,是否與本哨兵記錄的一樣;該實例如果是主節點的話,那它都有哪些從節點;該實例如果是從節點的話,它與主節點是否連通,它的優先級是多少,它的復制偏移量是多少等等,這些信息在故障轉移流程中,是判斷實例狀態的重要信息;

???????? 在sentinelSendPeriodicCommands函數中,設置的”INFO”命令的回調函數是sentinelInfoReplyCallback。該函數的代碼很簡單,主要是調用sentinelRefreshInstanceInfo函數對回復進行處理。因此,主要看一下sentinelRefreshInstanceInfo函數的代碼:

void sentinelRefreshInstanceInfo(sentinelRedisInstance *ri, const char *info) {sds *lines;int numlines, j;int role = 0;/* The following fields must be reset to a given value in the case they* are not found at all in the INFO output. */ri->master_link_down_time = 0;/* Process line by line. */lines = sdssplitlen(info,strlen(info),"\r\n",2,&numlines);for (j = 0; j < numlines; j++) {sentinelRedisInstance *slave;sds l = lines[j];/* run_id:<40 hex chars>*/if (sdslen(l) >= 47 && !memcmp(l,"run_id:",7)) {if (ri->runid == NULL) {ri->runid = sdsnewlen(l+7,40);} else {if (strncmp(ri->runid,l+7,40) != 0) {sentinelEvent(REDIS_NOTICE,"+reboot",ri,"%@");sdsfree(ri->runid);ri->runid = sdsnewlen(l+7,40);}}}/* old versions: slave0:<ip>,<port>,<state>* new versions: slave0:ip=127.0.0.1,port=9999,... */if ((ri->flags & SRI_MASTER) &&sdslen(l) >= 7 &&!memcmp(l,"slave",5) && isdigit(l[5])){char *ip, *port, *end;if (strstr(l,"ip=") == NULL) {/* Old format. */ip = strchr(l,':'); if (!ip) continue;ip++; /* Now ip points to start of ip address. */port = strchr(ip,','); if (!port) continue;*port = '\0'; /* nul term for easy access. */port++; /* Now port points to start of port number. */end = strchr(port,','); if (!end) continue;*end = '\0'; /* nul term for easy access. */} else {/* New format. */ip = strstr(l,"ip="); if (!ip) continue;ip += 3; /* Now ip points to start of ip address. */port = strstr(l,"port="); if (!port) continue;port += 5; /* Now port points to start of port number. *//* Nul term both fields for easy access. */end = strchr(ip,','); if (end) *end = '\0';end = strchr(port,','); if (end) *end = '\0';}/* Check if we already have this slave into our table,* otherwise add it. */if (sentinelRedisInstanceLookupSlave(ri,ip,atoi(port)) == NULL) {if ((slave = createSentinelRedisInstance(NULL,SRI_SLAVE,ip,atoi(port), ri->quorum, ri)) != NULL){sentinelEvent(REDIS_NOTICE,"+slave",slave,"%@");sentinelFlushConfig();}}}/* master_link_down_since_seconds:<seconds> */if (sdslen(l) >= 32 &&!memcmp(l,"master_link_down_since_seconds",30)){ri->master_link_down_time = strtoll(l+31,NULL,10)*1000;}/* role:<role> */if (!memcmp(l,"role:master",11)) role = SRI_MASTER;else if (!memcmp(l,"role:slave",10)) role = SRI_SLAVE;if (role == SRI_SLAVE) {/* master_host:<host> */if (sdslen(l) >= 12 && !memcmp(l,"master_host:",12)) {if (ri->slave_master_host == NULL ||strcasecmp(l+12,ri->slave_master_host)){sdsfree(ri->slave_master_host);ri->slave_master_host = sdsnew(l+12);ri->slave_conf_change_time = mstime();}}/* master_port:<port> */if (sdslen(l) >= 12 && !memcmp(l,"master_port:",12)) {int slave_master_port = atoi(l+12);if (ri->slave_master_port != slave_master_port) {ri->slave_master_port = slave_master_port;ri->slave_conf_change_time = mstime();}}/* master_link_status:<status> */if (sdslen(l) >= 19 && !memcmp(l,"master_link_status:",19)) {ri->slave_master_link_status =(strcasecmp(l+19,"up") == 0) ?SENTINEL_MASTER_LINK_STATUS_UP :SENTINEL_MASTER_LINK_STATUS_DOWN;}/* slave_priority:<priority> */if (sdslen(l) >= 15 && !memcmp(l,"slave_priority:",15))ri->slave_priority = atoi(l+15);/* slave_repl_offset:<offset> */if (sdslen(l) >= 18 && !memcmp(l,"slave_repl_offset:",18))ri->slave_repl_offset = strtoull(l+18,NULL,10);}}ri->info_refresh = mstime();sdsfreesplitres(lines,numlines);/* ---------------------------- Acting half -----------------------------* Some things will not happen if sentinel.tilt is true, but some will* still be processed. *//* Remember when the role changed. */if (role != ri->role_reported) {ri->role_reported_time = mstime();ri->role_reported = role;if (role == SRI_SLAVE) ri->slave_conf_change_time = mstime();/* Log the event with +role-change if the new role is coherent or* with -role-change if there is a mismatch with the current config. */sentinelEvent(REDIS_VERBOSE,((ri->flags & (SRI_MASTER|SRI_SLAVE)) == role) ?"+role-change" : "-role-change",ri, "%@ new reported role is %s",role == SRI_MASTER ? "master" : "slave",ri->flags & SRI_MASTER ? "master" : "slave");}/* None of the following conditions are processed when in tilt mode, so* return asap. */if (sentinel.tilt) return;/* Handle master -> slave role switch. */if ((ri->flags & SRI_MASTER) && role == SRI_SLAVE) {/* Nothing to do, but masters claiming to be slaves are* considered to be unreachable by Sentinel, so eventually* a failover will be triggered. */}... }

? ? ? ???該函數首先在for循環中解析"INFO"回復信息:

? ? ? ???首先解析出"run_id"之后的信息,保存在ri->runid中。如果該實例的runid發生了變化,還需要記錄日志,向"+reboot"頻道發布消息;

???????? 如果實例為主節點,則解析"slave"后的從節點信息,取出其中的ip和port信息,然后根據ip和port,調用sentinelRedisInstanceLookupSlave函數,在字典ri->slaves中尋找是否已經保存了該從節點的信息。如果沒有,則調用createSentinelRedisInstance創建從節點實例,并插入到ri->slaves中,也就是發現了主節點屬下的從節點,下次調用函數sentinelReconnectInstance時,就會向該從節點建鏈了;

???????? 解析"master_link_down_since_seconds"信息,該信息表示從節點與主節點的斷鏈時間。將其轉換成整數后,記錄到ri->master_link_down_time中;

???????? 解析"role"信息,如果包含"role:master",則置role為SRI_MASTER,說明該實例報告自己為主節點;如果包含"role:slave",則置role為SRI_SLAVE,說明該實例報告自己為從節點;

???????? 如果role為SRI_SLAVE,找到回復信息中的"master_host:"信息,記錄到ri->slave_master_host中;找到回復信息中的"master_port:"信息,記錄到ri->slave_master_port中;找到回復信息中的"master_link_status:"信息,根據其值是否為"up",記錄到ri->slave_master_link_status中;找到回復信息中的"slave_priority:"信息,記錄到ri->slave_priority中;找到回復信息中的"slave_repl_offset:"信息,記錄到ri->slave_repl_offset中;

???????? 解析完所有"INFO"回復信息之后,更新ri->info_refresh為當前時間;

????????

???????? 接下來根據實例的角色信息執行一些動作:

???????? ri->role_reported的初始值是根據ri->flags得到的,如果收到"INFO"回復后,解析得到的role與ri->role_reported不同,說明該實例的角色發生了變化,比如從主節點變成了從節點,或者相反。只要role與ri->role_reported不同,就首先更新ri->role_reported_time為當前時間,并且將ri->role_reported置為role;如果role為SRI_SLAVE,還需要更新ri->slave_conf_change_time的值為當前時間;最后,還根據ri->flags中的角色是否與role,來記錄日志,發布信息;

???????? 如果當前哨兵已經進入了TILT模式,則直接返回;

???????? 如果ri->flags中為主節點,但是role為從節點,這種情況無需采取動作,因為這種情況會被視為主節點不可達,最終會引發故障遷移流程;

???????? 本函數剩下的動作,與故障轉移流程有關,后續在介紹。

?

七:判斷實例是否主觀下線

???????? 首先解釋一下主觀下線和客觀下線的區別。

???????? 所謂主觀下線,就是從“我”(當前實例)的角度來看,某個實例已經下線了。但是單個哨兵的視角可能是盲目的,僅從“我”的角度,就決定一個實例下線是武斷的。因此,“我”還會通過命令詢問其他哨兵節點,看它們是否也認為該實例已經下線了,如果超過quorum個(包括“我”)哨兵反饋認為該實例已經下線了,則“我”就會認為該實例確實已經下線了,也就是所謂的客觀下線了。

?

???????? 判斷某個實例主觀下線,主要是根據其是否能及時回復”PING”命令決定的。因此,首先看一下發送”PING”命令的函數sentinelSendPing的實現:

int sentinelSendPing(sentinelRedisInstance *ri) {int retval = redisAsyncCommand(ri->cc,sentinelPingReplyCallback, NULL, "PING");if (retval == REDIS_OK) {ri->pending_commands++;/* We update the ping time only if we received the pong for* the previous ping, otherwise we are technically waiting* since the first ping that did not received a reply. */if (ri->last_ping_time == 0) ri->last_ping_time = mstime();return 1;} else {return 0;} }

???????? 在該函數中,設置收到”PING”命令回復后的回調函數為sentinelPingReplyCallback。

需要注意的是,如果ri->last_ping_time值為0,則更新ri->last_ping_time為當前時間。而只有在收到"PING"命令的正?;貜椭?#xff0c;ri->last_ping_time的值才會被置為0。

?

???????? 下面是回調函數sentinelPingReplyCallback的代碼:

void sentinelPingReplyCallback(redisAsyncContext *c, void *reply, void *privdata) {sentinelRedisInstance *ri = c->data;redisReply *r;REDIS_NOTUSED(privdata);if (ri) ri->pending_commands--;if (!reply || !ri) return;r = reply;if (r->type == REDIS_REPLY_STATUS ||r->type == REDIS_REPLY_ERROR) {/* Update the "instance available" field only if this is an* acceptable reply. */if (strncmp(r->str,"PONG",4) == 0 ||strncmp(r->str,"LOADING",7) == 0 ||strncmp(r->str,"MASTERDOWN",10) == 0){ri->last_avail_time = mstime();ri->last_ping_time = 0; /* Flag the pong as received. */} else {/* Send a SCRIPT KILL command if the instance appears to be* down because of a busy script. */if (strncmp(r->str,"BUSY",4) == 0 &&(ri->flags & SRI_S_DOWN) &&!(ri->flags & SRI_SCRIPT_KILL_SENT)){if (redisAsyncCommand(ri->cc,sentinelDiscardReplyCallback, NULL,"SCRIPT KILL") == REDIS_OK)ri->pending_commands++;ri->flags |= SRI_SCRIPT_KILL_SENT;}}}ri->last_pong_time = mstime(); }

???????? 如果回復信息為"PONG","LOADING"或"MASTERDOWN",表示正?;貜?#xff0c;因此置該實例的屬性ri->last_avail_time為當前時間,并且置ri->last_ping_time為0,這樣下次發送"PING"命令時就會更新ri->last_ping_time的值了;

???????? 如果回復信息以"BUSY"開頭,并且該實例已經被置為主觀下線,并且還沒有向該實例發送過"SCRIPT KILL"命令,則向該實例發送"SCRIPTKILL"命令;

???????? 最后,不管回復信息是什么,更新ri->last_pong_time為當前時間。

?

???????? 因此,有關”PING”命令的時間屬性總結如下:

? ? ? ???ri->last_ping_time:上一次正常發送”PING”命令的時間。需要注意的是,只有當收到"PING"命令的正常回復后,下次發送"PING"命令時才會更新該屬性為當時時間戳。如果發送”PING”命令后,沒有收到任何回復,或者沒有收到正?;貜?#xff0c;則下次發送”PING”命令時,就不會更新該屬性。如果該屬性值為0,說明已經收到了上一個"PING"命令的正?;貜?#xff0c;但是還沒有開始發送下一個"PING"命令。檢測實例是否主觀下線,主要就是根據該屬性判斷的。

? ? ? ???ri->last_pong_time:每當收到"PING"命令的回復后,不管是否是正?;謴?#xff0c;都會更新該屬性為當時時間戳;

?

???????? 在哨兵的“主函數”sentinelHandleRedisInstance中,調用sentinelCheckSubjectivelyDown函數檢測實例是否主觀下線,該函數同時還會檢測TCP連接是否正常。該函數的代碼如下:

void sentinelCheckSubjectivelyDown(sentinelRedisInstance *ri) {mstime_t elapsed = 0;if (ri->last_ping_time)elapsed = mstime() - ri->last_ping_time;/* Check if we are in need for a reconnection of one of the* links, because we are detecting low activity.** 1) Check if the command link seems connected, was connected not less* than SENTINEL_MIN_LINK_RECONNECT_PERIOD, but still we have a* pending ping for more than half the timeout. */if (ri->cc &&(mstime() - ri->cc_conn_time) > SENTINEL_MIN_LINK_RECONNECT_PERIOD &&ri->last_ping_time != 0 && /* Ther is a pending ping... *//* The pending ping is delayed, and we did not received* error replies as well. */(mstime() - ri->last_ping_time) > (ri->down_after_period/2) &&(mstime() - ri->last_pong_time) > (ri->down_after_period/2)){sentinelKillLink(ri,ri->cc);}/* 2) Check if the pubsub link seems connected, was connected not less* than SENTINEL_MIN_LINK_RECONNECT_PERIOD, but still we have no* activity in the Pub/Sub channel for more than* SENTINEL_PUBLISH_PERIOD * 3.*/if (ri->pc &&(mstime() - ri->pc_conn_time) > SENTINEL_MIN_LINK_RECONNECT_PERIOD &&(mstime() - ri->pc_last_activity) > (SENTINEL_PUBLISH_PERIOD*3)){sentinelKillLink(ri,ri->pc);}/* Update the SDOWN flag. We believe the instance is SDOWN if:** 1) It is not replying.* 2) We believe it is a master, it reports to be a slave for enough time* to meet the down_after_period, plus enough time to get two times* INFO report from the instance. */if (elapsed > ri->down_after_period ||(ri->flags & SRI_MASTER &&ri->role_reported == SRI_SLAVE &&mstime() - ri->role_reported_time >(ri->down_after_period+SENTINEL_INFO_PERIOD*2))){/* Is subjectively down */if ((ri->flags & SRI_S_DOWN) == 0) {sentinelEvent(REDIS_WARNING,"+sdown",ri,"%@");ri->s_down_since_time = mstime();ri->flags |= SRI_S_DOWN;}} else {/* Is subjectively up */if (ri->flags & SRI_S_DOWN) {sentinelEvent(REDIS_WARNING,"-sdown",ri,"%@");ri->flags &= ~(SRI_S_DOWN|SRI_SCRIPT_KILL_SENT);}} }

? ? ? ???ri->cc_conn_time屬性表示上一次向該實例發起命令類型的TCP建鏈的時間;ri->pc_conn_time屬性表示上一次向該實例發起訂閱類型的TCP建鏈的時間;

? ? ? ???首先計算elapsed的值,該值表示是當前時間與ri->last_ping_time之間的時間差;

???????? 然后判斷命令類型的TCP連接是否正常,不正常的條件是:距離上次建鏈時已經超過了SENTINEL_MIN_LINK_RECONNECT_PERIOD,并且上次發送"PING"后還沒有收到正?;貜?#xff0c;且當前時間與ri->last_ping_time之間的時間差已經超過了ri->down_after_period/2,并且距離上次收到任何"PING"回復的時間,已經超過了ri->down_after_period/2;

???????? 如果命令類型的連接不正常了,則直接調用sentinelKillLink斷開連接,釋放異步上下文;

?

???????? 然后判斷訂閱類型的TCP連接是否正常,不正常的條件是:距離上次建鏈時已經超過了SENTINEL_MIN_LINK_RECONNECT_PERIOD,并且距離上次收到訂閱頻道發來的任何消息的時間,已經超過了SENTINEL_PUBLISH_PERIOD*3;

???????? 如果訂閱類型的連接不正常了,則直接調用sentinelKillLink斷開連接,釋放異步上下文;

?

???????? 如果elapsed的值大于ri->down_after_period,或者:當前實例我認為它是主節點,但是它的"INFO"回復中卻報告自己是從節點,并且距離上次收到它在"INFO"回復中報告自己是從節點的時間,已經超過了ri->down_after_period+SENTINEL_INFO_PERIOD*2;

???????? 滿足以上任意一個條件,都認為該實例是主觀下線了。因此:只要該實例還沒有標志為主觀下線,則將SRI_S_DOWN標記增加到實例標志位中,表示該實例主觀下線;

???????? 如果不滿足以上條件,但是該實例之前已經被標記為主觀下線了,則認為該實例主觀上線了,去掉其標志位中的SRI_S_DOWN和SRI_SCRIPT_KILL_SENT標記;

轉載于:https://www.cnblogs.com/gqtcgq/p/7247048.html

總結

以上是生活随笔為你收集整理的Redis源码解析:21sentinel(二)定期发送消息、检测主观下线的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。

国产91学生| 主播av在线 | 国产123区在线观看 国产精品麻豆91 | 婷婷视频导航 | 国产一级不卡毛片 | 国产精品毛片一区二区在线 | 免费看色网站 | 国产一二三区av | 超碰成人免费电影 | 久久亚洲美女 | 天天综合导航 | 人人艹人人 | 黄色一级免费 | 国产第页| 久久久国产精品亚洲一区 | 久久久久久国产精品免费 | 久久人人爽人人爽人人片av软件 | 热久久影视 | 精品视频在线免费 | 三级在线视频观看 | 国产精品久久久久久吹潮天美传媒 | 中文字幕久久精品亚洲乱码 | 青青啪| 91网页版免费观看 | 激情综合五月天 | 最近2019年日本中文免费字幕 | 九九99靖品| 亚洲精品综合一区二区 | 蜜臀aⅴ国产精品久久久国产 | 久久综合九色九九 | 免费在线观看日韩欧美 | 欧美成人手机版 | 免费网站在线观看成人 | av中文字幕av | 午夜电影av | 中文字幕免费一区 | 久久精品免视看 | 91成人精品一区在线播放69 | 免费高清男女打扑克视频 | 日韩欧美视频在线观看免费 | 国产97在线观看 | 日韩精品一区二区三区视频播放 | 中文字幕免费成人 | 亚洲精品国产精品国自产在线 | 中文字幕在线免费观看视频 | 国产视频丨精品|在线观看 国产精品久久久久久久久久久久午夜 | 免费在线观看91 | 在线观看免费高清视频大全追剧 | 麻豆传媒视频在线 | 99久久久久久国产精品 | 精品亚洲男同gayvideo网站 | 精品国模一区二区三区 | 国产精选在线 | 欧美色图狠狠干 | 亚洲综合视频在线观看 | 免费国产亚洲视频 | 欧美视频在线二区 | 人人超碰97| 成人av一级片 | 亚洲精品美女在线观看 | 福利网在线 | 中文字幕一区二区三区四区久久 | 国产精品网红直播 | 91精品国产乱码久久桃 | 亚州国产视频 | 久久99久久99 | 99久久精品国产一区二区三区 | 久久伦理电影 | 欧美成人黄色 | 国产无套精品久久久久久 | 欧美精品国产综合久久 | 看国产黄色大片 | 日日日日日 | 久草视频免费在线播放 | 可以免费观看的av片 | 亚洲日日夜夜 | 久99久久 | 999久久久久久久久 69av视频在线观看 | 91大神在线看 | 精品国产一区二区三区男人吃奶 | 成人av电影免费观看 | 日韩网站在线看片你懂的 | 人人插人人草 | 亚洲九九九 | 成人影片在线播放 | 精品自拍网 | 免费色网 | 丰满少妇在线 | 精品国产1区 | 九九九热精品免费视频观看网站 | 婷婷激情小说网 | 国产一区欧美在线 | 欧美色综合天天久久综合精品 | 国内精品久久久 | 97精品国产aⅴ | 婷婷在线精品视频 | 中文字幕在线观 | 欧美一级乱黄 | 超碰日韩在线 | 成年人在线 | 精品福利视频在线观看 | 国产福利在线 | 人人澡人摸人人添学生av | 丁香花中文在线免费观看 | 成人三级网址 | 波多野结衣理论片 | 97人人模人人爽人人喊中文字 | 国产999精品久久久久久 | 亚洲性少妇性猛交wwww乱大交 | 国产成本人视频在线观看 | 国产精品综合在线观看 | 欧美va天堂va视频va在线 | 日韩精品久久一区二区 | 日韩欧美综合视频 | 欧美性猛片, | 激情av一区二区 | 国产午夜精品免费一区二区三区视频 | 夜夜天天干 | 懂色av懂色av粉嫩av分享吧 | 午夜视频免费播放 | 2019中文字幕第一页 | 日韩国产精品一区 | 国产精品岛国久久久久久久久红粉 | 久久免费视频观看 | 国产999免费视频 | 狠狠干2018 | 国产日韩精品视频 | 亚洲综合色视频在线观看 | 久久久久久久久久国产精品 | 日韩在线一二三区 | 国产美女视频黄a视频免费 久久综合九色欧美综合狠狠 | 日韩成人欧美 | 在线免费视频a | 热精品| 国产一区欧美二区 | 国产视频精品视频 | 国产高清av免费在线观看 | 在线观看完整版免费 | 香蕉视频91 | 日日草av| 国产午夜精品久久 | 亚洲成人二区 | 国产精品一区二区中文字幕 | 国产成人精品久久久久 | 国产精品18毛片一区二区 | 亚洲国产中文字幕在线 | 欧美另类高潮 | 国产精品免费不卡 | 在线亚洲天堂网 | 伊人狠狠色 | 日本一区二区不卡高清 | 婷婷电影在线观看 | 97超碰人人网 | 欧美精品一二三 | 亚洲精品国产精品乱码在线观看 | 99免费在线观看 | 超碰在线人人草 | 欧美日韩国产精品一区二区亚洲 | 成人毛片一区二区三区 | 中文字幕欲求不满 | 欧美资源 | 在线婷婷 | 国产精品网红直播 | www.黄色在线 | 成人av播放 | 又色又爽又激情的59视频 | 五月婷婷欧美视频 | 亚洲情影院 | 蜜臀av夜夜澡人人爽人人桃色 | 亚洲欧美国产日韩在线观看 | 欧美性天天 | 欧美一级在线观看视频 | 高清精品久久 | 国产一区二区视频在线播放 | 亚洲视频电影在线 | 亚洲精选99 | 国产香蕉97碰碰久久人人 | 国产精品久久久久av福利动漫 | 国产精品国产毛片 | 久久人人看 | 久草热视频 | 中文字幕免费不卡视频 | 亚洲成人麻豆 | 97在线视 | 色偷偷中文字幕 | 亚洲视频 中文字幕 | 婷婷色中文网 | 精品福利在线视频 | 国产高清成人av | 国内精品美女在线观看 | 99精品视频网站 | 精品在线二区 | 超碰公开在线观看 | 色先锋av资源中文字幕 | 激情中文在线 | 成人性生交大片免费看中文网站 | 911国产在线观看 | 国产资源精品在线观看 | 亚洲黄色免费在线 | 久久不卡免费视频 | 国产精品va在线观看入 | 欧美a√大片 | av中文天堂 | 久久 精品一区 | 日本中文字幕高清 | 亚洲国产剧情av | 麻豆免费视频观看 | 欧美精品久久久久久久亚洲调教 | 69热国产视频 | 午夜精品一二三区 | 欧美污污网站 | 99热这里只有精品国产首页 | 国产裸体bbb视频 | 亚洲一级久久 | 99自拍视频在线观看 | 久草爱 | 久久国产精品久久精品 | 亚洲综合日韩在线 | 在线国产91 | 黄网站色成年免费观看 | 韩日三级在线 | 99精品99 | 免费在线中文字幕 | 在线成人看片 | 欧洲一区二区在线观看 | 日韩av免费大片 | 日日干天天射 | 免费看黄在线 | 热久久99这里有精品 | 亚洲清纯国产 | 欧美一级爽 | 成人免费视频播放 | 精品视频一区在线观看 | 久久黄色片 | 亚洲无吗av | 欧美成人理伦片 | 免费福利在线 | 国产精品综合久久久久 | 婷婷综合五月 | 成人在线免费av | 超碰在线人人艹 | 一区二区三区影院 | 日本黄色免费大片 | 在线亚洲成人 | 在线免费亚洲 | 免费午夜视频在线观看 | 亚洲黄色一级大片 | 午夜aaaa | www.久久婷婷| 国产露脸91国语对白 | 日韩激情中文字幕 | 亚洲高清av | 久久免费视频国产 | 深爱激情开心 | 国产精品一区二区在线 | 婷婷色网视频在线播放 | 黄色福利视频网站 | 久草在线免费资源站 | 91大片网站 | a一片一级| 国产亚洲精品久久久久久 | 成人午夜电影在线播放 | av品善网 | 69久久久久久久 | 欧美日韩aa | 久久国产电影院 | 四虎伊人| 黄网站色视频 | 天天操天天添天天吹 | 成人免费大片黄在线播放 | 91午夜精品| 97福利社| 毛片无卡免费无播放器 | 色网免费观看 | 亚洲国产成人在线观看 | 五月色婷| www.69xx | 激情动态 | 国产精品刺激对白麻豆99 | 91视频高清免费 | 五月婷婷六月丁香 | 天天爱天天干天天爽 | 中文字幕免费高清 | 色综合天天狠狠 | 最新国产精品拍自在线播放 | 久久精品国产免费 | 国内成人精品视频 | 91av视频在线免费观看 | 成人教育av | 久久99国产精品免费 | 久久精品这里都是精品 | 亚洲四虎在线 | 亚洲成a人片77777潘金莲 | 亚洲伦理中文字幕 | 免费日韩一区二区三区 | 久久精品久久久久电影 | 97在线观看免费视频 | 夜夜高潮夜夜爽国产伦精品 | 久久av高清 | 日韩精品一区在线播放 | 国产精品久久精品国产 | 欧美日韩精品免费观看 | 免费不卡中文字幕视频 | 亚洲天堂精品视频 | 久热电影 | 国内精品亚洲 | 久久精品影片 | 在线日本v二区不卡 | 色偷偷网站视频 | 久草网免费 | 99av国产精品欲麻豆 | 日本中文字幕视频 | 国产精品自在欧美一区 | 久草在线观看 | 国产不卡av在线 | 狠狠躁夜夜躁人人爽超碰91 | 一区二区精品在线视频 | 日本久久综合视频 | 九色91在线| 2021久久| 很黄很黄的网站免费的 | 欧亚日韩精品一区二区在线 | 国产精品久久99综合免费观看尤物 | 97电院网手机版 | 日韩精品不卡在线观看 | 日躁夜躁狠狠躁2001 | 久久久精品国产一区二区三区 | 夜夜操网| 亚洲v精品| 伊人婷婷激情 | 免费福利在线播放 | 久久久久久久久免费视频 | www国产亚洲 | 欧美一区影院 | 国产亚洲午夜高清国产拍精品 | 黄色在线看网站 | 婷婷五综合 | 免费在线观看国产黄 | 人人插人人搞 | 久久a热6| 久久999久久| 国产精品久久久久久久7电影 | 国产精品色婷婷 | 在线观看免费成人 | 国产免费不卡 | 免费国产在线视频 | 丁香六月婷婷综合 | 特黄色大片 | www.91国产 | 亚洲精品国精品久久99热一 | 成人av动漫在线观看 | 亚洲精品黄色在线观看 | 91最新在线观看 | 日韩视频一区二区 | 在线免费观看羞羞视频 | 国产精品一区二区av | 国产一区久久 | 国内精品视频在线播放 | 丝袜少妇在线 | 久久香蕉电影 | a成人v在线 | 日韩欧美v | 国产123av| 亚洲欧美观看 | 国产精品麻豆果冻传媒在线播放 | 婷婷综合导航 | 婷婷网站天天婷婷网站 | 蜜桃视频色 | av大全在线看 | 国产黄色免费电影 | 免费视频一二三区 | 91理论电影 | 一区二区三区在线视频观看58 | av丝袜天堂 | 国产不卡在线看 | 久久久久久久看片 | 精品成人久久 | 天天躁日日躁狠狠躁av麻豆 | 色偷偷人人澡久久超碰69 | 国产精品乱码高清在线看 | 免费福利视频网 | www.黄色片网站 | 国产精品一区二区在线观看 | 在线高清 | 国产高清综合 | 国内丰满少妇猛烈精品播放 | 涩涩网站免费 | 日本爱爱免费 | 免费毛片一区二区三区久久久 | 有没有在线观看av | 2024国产在线 | 亚洲最大激情中文字幕 | 国产亚洲va综合人人澡精品 | 四虎国产精品免费 | 国产欧美在线一区二区三区 | 久久热亚洲 | 91免费网站在线观看 | 亚洲毛片视频 | 国产专区日韩专区 | 最新超碰| 九九九热精品免费视频观看 | 欧美激情综合五月色丁香 | 成人试看120秒 | 1区2区3区在线观看 三级动图 | 欧美a级片免费看 | 国产免费大片 | 五月天激情电影 | 怡红院成人在线 | 四虎影视成人永久免费观看视频 | 亚洲 欧洲av | 国产一级二级在线播放 | 91色九色| 天天操天天爱天天干 | 五月天久久精品 | 久久久久免费电影 | 国产在线一线 | 亚洲视频网站在线观看 | 超碰公开97 | 一级一片免费观看 | 久久久久久久免费 | 五月天色中色 | 亚洲高清在线视频 | 高清免费av在线 | 中文字幕在线播放av | 黄色a级片在线观看 | 色爱成人网 | 四虎在线影视 | 九九九九九九精品任你躁 | 国产精品福利午夜在线观看 | 国产自产高清不卡 | 久草视频免费在线观看 | 中文字幕在线专区 | 天天天干 | 国产你懂的在线 | 男女拍拍免费视频 | 99精品黄色| 中文字幕亚洲精品在线观看 | 成人黄色大片网站 | 久久久亚洲精华液 | 日韩免费在线观看视频 | 国产精品青草综合久久久久99 | 91精品在线观看视频 | 国产精品 日本 | 久久久福利 | 在线色亚洲 | 欧洲不卡av | 99久久精品国产亚洲 | 日韩av电影手机在线观看 | 天天干,天天干 | 日本中文字幕网站 | 黄色一级在线视频 | 精品久久久久国产免费第一页 | 国产精品女人网站 | 黄色免费网站大全 | 毛片基地黄久久久久久天堂 | 国产精品麻豆一区二区三区 | 久久久久久久久综合 | 日本少妇视频 | 国产精品免费在线观看视频 | 91粉色视频| 在线观看色网站 | 成人h电影在线观看 | 东方av在 | av免费看电影 | 97在线免费观看视频 | 天堂网中文在线 | 99热最新精品| av大片免费 | 91在线免费播放视频 | 一区二区三区观看 | 狠狠干狠狠艹 | 婷婷六月天丁香 | 欧美激情第一页xxx 午夜性福利 | 欧美最猛性xxxxx亚洲精品 | 中文字幕在线观看日本 | 国产视频一二三 | 人人澡人人干 | 正在播放一区二区 | 日韩免费播放 | 在线影院中文字幕 | 国产精品高清在线观看 | 国产九九九精品视频 | 欧美久久久一区二区三区 | 欧美少妇bbwhd | 青青草视频精品 | 99色在线观看 | 97视频在线观看免费 | av中文在线 | 日韩欧美精品在线 | 久久久影院官网 | 亚洲精品xxxx | 国产成人久久77777精品 | 狠狠操狠狠干天天操 | 韩国av电影在线观看 | 亚洲视频免费在线观看 | 久久国产影院 | 美女网站色 | 国产精品99久久久久久久久久久久 | 在线精品视频在线观看高清 | 中文字幕在线观看的网站 | 日日夜夜天天人人 | 99精品国产aⅴ | 欧美色图88 | 99亚洲精品视频 | 日韩国产精品毛片 | 亚洲激情在线播放 | 国产第一二区 | 国产网红在线观看 | 久久激情片 | 亚洲最快最全在线视频 | 中文字幕免费观看全部电影 | ,午夜性刺激免费看视频 | 91视频免费国产 | 亚洲精品免费视频 | 亚洲精品美女在线观看 | 国产人成精品一区二区三 | 中文字幕国产精品一区二区 | 欧美一级片免费在线观看 | 亚洲视频专区在线 | 日韩一级片大全 | 黄色中文字幕 | 丝袜av一区 | 在线三级播放 | 亚洲久在线| 日韩成人中文字幕 | 久久草视频 | 国产黄网在线 | 日韩欧美在线综合网 | 黄色小说网站在线 | 欧美资源 | 成人黄色在线观看视频 | 超碰人在线 | 久久高清精品 | 欧美狠狠色 | 91色在线观看 | 在线天堂8√| 91亚瑟视频 | 91在线观 | 亚洲午夜不卡 | 91插插插网站 | av丝袜美腿 | 97精品国产97久久久久久粉红 | 色综合狠狠干 | 久久视频99 | 久久夜色精品国产欧美乱极品 | 在线视频日韩 | 在线日韩视频 | 久久99久久99精品免观看软件 | 在线视频黄 | 中文字幕中文字幕在线中文字幕三区 | 国产资源 | 黄色电影网站在线观看 | 亚洲欧美精品一区 | 国模视频一区二区 | 玖玖在线精品 | 欧美性生活大片 | 久久一区二区三区日韩 | 欧美日韩xxx | www国产亚洲精品久久麻豆 | 久草精品国产 | 午夜影院一级 | 日韩欧美高清视频在线观看 | 黄色av网站在线免费观看 | 日韩欧美国产视频 | 亚洲精品在线国产 | 国产精久久久久久久 | 日日干av | 五月天色丁香 | 一区二区三区四区久久 | 96视频在线| 久久丁香 | 三级黄色在线 | 人人爽人人搞 | 91自拍成人 | 久久手机免费视频 | 国产精品网在线观看 | 一级黄视频 | 96精品视频 | 97人人艹 | 在线观看免费高清视频大全追剧 | 久久久久久久久久久久久影院 | 三级黄色a| 又大又硬又黄又爽视频在线观看 | 综合网天天 | 国产黄在线免费观看 | 九九视频免费 | a√天堂资源| 精品91久久久久 | 久久综合免费 | 免费视频三区 | 亚洲一区不卡视频 | 91高清完整版在线观看 | 麻豆视频免费看 | 天天操,夜夜操 | 亚洲人片在线观看 | 久久久www成人免费毛片 | 综合在线观看 | 欧美精品久久人人躁人人爽 | 精品久久久久一区二区国产 | 97在线视| 中文字幕中文字幕在线中文字幕三区 | 国产日女人 | 日韩在线观看你懂得 | 黄色在线观看免费 | 日韩精品欧美专区 | 91九色porn在线资源 | 亚洲成av人电影 | 在线看v片成人 | 久久艹在线观看 | 天天干天天拍天天操 | 国产综合小视频 | 麻豆免费观看视频 | 国产免费高清 | 天天射网| 成人av影院在线观看 | 看v片| 国产成人亚洲在线观看 | 毛片网站观看 | 亚洲免费在线视频 | 天天做夜夜做 | 成人免费视频观看 | 国产成人精品一区二区三区福利 | 久久综合色8888 | 久久亚洲福利 | 久久亚洲国产精品 | 99精品国产兔费观看久久99 | 久久成人免费视频 | 成人一级免费电影 | 国产精品一区久久久久 | 午夜丁香网 | 亚洲视频六区 | 在线播放亚洲激情 | 在线中文字幕av观看 | 国产美女免费视频 | 国产偷在线 | 日韩在线观看你懂得 | 天天搞天天干天天色 | 欧美 日韩 性 | 一区二区丝袜 | 不卡视频一区二区三区 | 亚洲成人二区 | 久久永久免费 | 免费看毛片在线 | 在线av资源| 久在线观看视频 | 奇米影视777影音先锋 | 91一区二区在线 | 91香蕉国产在线观看软件 | 日本中出在线观看 | 深夜视频久久 | 97视频人人| 日本天天操 | 国产精品高潮在线观看 | 黄av免费在线观看 | 欧美一区成人 | 在线国产视频 | 久久免费视频播放 | 亚洲欧美国产精品 | 99在线精品视频 | 精品国产_亚洲人成在线 | 在线观看你懂的网站 | 国产美女被啪进深处喷白浆视频 | 日韩小视频网站 | 麻豆免费在线播放 | 成人中文字幕+乱码+中文字幕 | 操高跟美女 | 韩日av在线| 久久免费黄色大片 | 国产精品乱码在线 | a成人v在线 | 色999五月色 | 中文资源在线播放 | 国产一级片在线播放 | 97免费中文视频在线观看 | 久久精品一二三区 | 欧美二区在线播放 | 在线亚洲欧美日韩 | 中文有码在线视频 | 日韩欧美在线综合网 | 国产精品18videosex性欧美 | 波多野结衣一区二区三区中文字幕 | 色婷婷免费视频 | 91资源在线播放 | 麻豆传媒视频观看 | 人人澡av | 在线国产一区 | 亚洲一片黄 | av在线永久免费观看 | 国产大片免费久久 | 欧美日本中文字幕 | 在线观看91精品国产网站 | 久久久 激情| 欧美激情视频在线免费观看 | 97在线观看免费高清 | 999在线视频| 欧美日韩精品二区第二页 | 九色最新网址 | a天堂免费| 91系列在线 | 91在线产啪 | 波多野结衣精品视频 | 欧美片网站yy | 日韩在线观 | 99久久99久久精品国产片 | 天天干天天操天天操 | 日日夜夜网 | 国内精品久久久久久久久久久久 | 在线亚洲精品 | 最新日韩中文字幕 | 国产亚洲激情视频在线 | 日韩 精品 一区 国产 麻豆 | 国产精品自产拍在线观看网站 | 天天曰天天爽 | 一区二区三区不卡在线 | 久久久久久久电影 | 黄色一级片视频 | 婷婷丁香激情网 | 99精品久久久久久久 | 国产精品露脸在线 | 美女视频黄是免费的 | 日韩免费一级a毛片在线播放一级 | 亚洲国内在线 | 国产精品久久99精品毛片三a | 国产日韩欧美在线免费观看 | 国产专区第一页 | 成年美女黄网站色大片免费看 | 欧美大香线蕉线伊人久久 | 国产成人精品综合久久久久99 | 五月婷婷色丁香 | 在线观看不卡的av | 日本精品久久 | 欧美精品免费视频 | 91亚洲国产 | 久久久久综合 | 精品福利片 | 精品国产精品久久 | 中文字幕精品久久 | 国产精品久久久久999 | 中国一区二区视频 | 久久久久久久久网站 | 九九欧美视频 | h网站免费在线观看 | 美女精品在线观看 | 91精品成人 | 午夜国产一区 | 国产精品成人久久久久久久 | 国产视频一区在线播放 | 国产日本高清 | 国产91勾搭技师精品 | 亚洲国产网站 | 免费在线观看一级片 | 亚洲欧美视频在线 | 免费在线观看成人av | 2024国产精品视频 | 日韩网站免费观看 | 久久天天综合网 | 日韩免费不卡视频 | 97精产国品一二三产区在线 | 91精品爽啪蜜夜国产在线播放 | 免费婷婷| 久艹视频在线观看 | 国产黄色片在线 | 色天堂在线视频 | 成人国产精品 | 青青河边草免费观看完整版高清 | 免费在线观看一级片 | 免费观看91视频大全 | 久久国产品| 国产中文字幕一区二区 | 麻豆影视在线免费观看 | 中文字幕国产一区 | 狠狠狠综合 | 国产精品久久久久久久婷婷 | 成人黄大片视频在线观看 | 97成人免费视频 | 亚洲午夜精品久久久久久久久久久久 | 欧美一区在线观看视频 | 中文字幕亚洲欧美日韩 | 激情六月婷婷久久 | 国产精品久久久久久电影 | 久久影视中文字幕 | 中文字幕影片免费在线观看 | 国产成人精品av在线 | 丁香花中文字幕 | 亚洲专区视频在线观看 | 成人中文字幕+乱码+中文字幕 | 黄色国产精品 | 精品国产亚洲一区二区麻豆 | 四虎影视8848aamm | 亚洲伦理一区 | 亚洲最新在线视频 | 国产福利av | av黄色大片 | 国色综合| 黄色毛片视频免费 | 久久综合色8888 | 六月天综合网 | 96国产在线 | www国产精品com| 国产精品亚洲成人 | 在线观看视频福利 | 2019av在线视频 | 一区二区丝袜 | 狠狠操天天干 | 人人狠狠综合久久亚洲 | 一区在线免费观看 | 日韩在线资源 | 五月天久久久久久 | 国产黄在线免费观看 | 国产中文| 夜夜夜夜操 | 亚洲欧洲日韩 | 欧美aa一级 | 欧美天天综合 | 久久国产午夜精品理论片最新版本 | 日日干网 | 日韩www在线 | 西西大胆啪啪 | 久草视频免费在线观看 | 黄色片网站 | 91 在线视频播放 | 欧美日韩网站 | 色婷婷成人网 | 久草免费在线观看 | 在线看av的网址 | 成人羞羞视频在线观看免费 | 亚洲国产999 | 7799av| 玖玖色在线观看 | 一区二区三区中文字幕在线观看 | 在线视频婷婷 | 午夜aaaa | 国产日韩精品一区二区 | 黄色1级毛片 | 国产一区二区三区网站 | 国语自产偷拍精品视频偷 | 99精品成人| 久久成人高清 | 又大又硬又黄又爽视频在线观看 | 亚洲区另类春色综合小说 | 九九免费视频 | 91成人精品一区在线播放69 | 一区二区三区www | 日韩av手机在线看 | 精品国产免费看 | 欧美性久久久久久 | 精品久久综合 | 国产日韩中文在线 | 免费在线观看日韩欧美 | 久久久国产99久久国产一 | 亚州精品国产 | 天天激情在线 | 人人插人人搞 | 国产一区国产二区在线观看 | 国产剧情一区二区 | 国产成人久久精品77777 | 亚洲精品在线观看免费 | 中文字幕在线一区观看 | 久久人91精品久久久久久不卡 | 伊人网站| 色婷婷伊人 | 久久久国产精品视频 | 久久精品久久精品久久精品 | 午夜手机电影 | 婷色在线| 国产91在线观看 | 亚州精品在线视频 | 天天色天天射天天干 | 日韩欧美网址 | 97电影院在线观看 | 国产精品九九九 | 在线精品视频在线观看高清 | www.婷婷色| 丁香六月激情婷婷 | 91精品国产欧美一区二区 | 国产亚洲精品福利 | 亚洲欧美日韩精品久久久 | 黄色三级久久 | 亚洲精品综合欧美二区变态 | 欧美日产在线观看 | 中文字幕a∨在线乱码免费看 | 国内久久精品视频 | 国产精品嫩草影院99网站 | 99999精品| 久久精品99国产精品酒店日本 | 日韩精品偷拍 | 亚洲老妇xxxxxx | 国产一区久久 | 在线视频a| 玖玖在线观看视频 | 二区三区毛片 | 亚洲综合色播 | 91视频免费看 | 玖玖视频免费在线 | 国产精品二区在线观看 | 天天操综合 | 99精品国产免费久久 | 毛片一区二区 | 美女免费视频一区 | 欧美 日韩 成人 | 91丨精品丨蝌蚪丨白丝jk | www.香蕉| 欧美日韩国产一二三区 | 国产免费成人 | 久久综合精品国产一区二区三区 | 国产原创在线视频 | 国产vs久久| 国产成人一区二区三区在线观看 | 精品福利视频在线 | 久操97 | 91视频免费网址 | 97国产精品亚洲精品 | 日韩精品一区二区三区丰满 | 免费福利视频网站 | 国产精品综合av一区二区国产馆 | 99久久日韩精品免费热麻豆美女 | 日本精品在线看 | 国产黄色在线网站 | 99久久婷婷国产精品综合 | 久久国产日韩 | 99中文字幕| 欧美精品少妇xxxxx喷水 | 欧美日韩中文字幕综合视频 | 欧美亚洲国产一卡 | 国产免费二区 | 五月在线 | 久久视频99 | 久草在线免费看视频 | 欧美做受高潮 | 久久成人免费视频 | 91片在线观看 | 久久久久久免费视频 | 五月天久久精品 | 日韩免费av网址 | 麻豆久久 | 成人久久18免费网站图片 | 色五月激情五月 | 国产又粗又猛又黄又爽视频 | 一区二区三区四区在线 | 开心激情久久 | 国产不卡在线播放 | 久久综合精品一区 | 91传媒激情理伦片 | 91桃花视频 | 国产91小视频| 少妇啪啪av入口 | 人人插人人做 | 中文字幕一区二区三区视频 | 91九色自拍| 伊人资源站 | 在线欧美a | 在线国产一区 | 久久精品中文 | 国产精品a久久久久 | 99c视频在线 | 亚洲 欧美日韩 国产 中文 | 国产美女主播精品一区二区三区 | 久久66热这里只有精品 | 韩国在线视频一区 | 久久国产精品一二三区 | 欧美日韩国产欧美 | 麻豆94tv免费版 | 久久国产一二区 | 日韩精品一区二区久久 | 9999在线视频 | 91视频91自拍| 日韩欧美高清在线 | 国产999精品久久久影片官网 | 婷婷九月激情 | 久草在线久| 九九免费在线观看视频 | 午夜精品久久久久久久久久 | www.888av| 亚洲黄色av网址 | 欧美一级片在线观看视频 | 国产香蕉在线 | 成人91在线 | 在线欧美日韩 | 91精品视频在线看 | 成人免费一级 | 国产成人免费观看久久久 | 日韩城人在线 | 91香蕉视频 | 日日爽天天爽 | 色a资源在线 | 涩涩爱夜夜爱 | 久久成人精品电影 | 播五月婷婷 | 国产精品麻豆视频 | 国产成人精品一区二区三区福利 | 国产综合小视频 | 欧美经典久久 | 国产精品成人一区二区 | 日韩色高清 | 日韩精品专区在线影院重磅 | 午夜手机电影 | 天天干天天天天 | 手机在线日韩视频 |