日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 运维知识 > Nginx >内容正文

Nginx

Centos7+Nginx+Keepalived实现Apache服务的高可用负载均衡

發布時間:2025/3/8 Nginx 76 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Centos7+Nginx+Keepalived实现Apache服务的高可用负载均衡 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

Centos7+Nginx+Keepalived實現Apache服務的高可用&負載均衡

今天是2017年的第一天,昨天也就是2016年的最后一天,我嘗試部署了Centos7+Nginx+Keepalived實現WEB服務的高可用負載均衡服務,終于在2017年的第一天前完成了,所以在此分享給有需要的朋友;說到負載均衡,其實在linux下有很多服務可以實現,比如nginx、haproxy、lvs等服務,當前我們在前面的文章有介紹過了,但是對于高可用服務,我們在linux下最常見也是應用最多的是Keepalived,對于這些綜合服務對于一個管理員來說是必須要會的,所以今天我們主要介紹的是Centos7+Nginx+Keepalived實現WEB(Apache)服務的高可用負載均衡。具體見下:

環境介紹:

Hostname:A-S

IP:192.168.5.21

Role:Apache Web Service

Hostname:B-S

IP:192.168.5.22

Role:Apache Web Service

Hostname:BB-S

IP:192.168.5.53

Role:Nginx+Keepalived

Hostname:BB-S

IP:192.168.5.54

Role:Nginx+Keepalived

Virtual IP:192.168.5.88

我們需要首先安裝兩臺Apache Web服務

因為我們準備使用yum安裝服務,所以需要定義阿里云倉庫

cd?/etc/yum.repo vim?epel.repo 添加以下內容 [epel]???name=aliyun?epel????baseurl=http://mirrors.aliyun.com/epel/7Server/x86_64/ gpgcheck=0

首先在192.168.5.21上安裝apache

yum?isntall?-y?httpd

然后定義顯示頁面

vim?/var/www/html/index.html </html> <!DOCTYPE?html> <html> <head> <title>Welcome?to?Apache</title> <style>body?{35em;margin:?0?auto;font-family:?Tahoma,?Verdana,?Arial,?sans-serif;} </style> <style?type="text/css"> h1{color:red} h2{color:blue} h3{color:green} h4{color:yellow} } </style> </head><body?bgcolor='#46A3FF'> <h1>Welcome?to?A-S?Apache</h1> <h2>HostName:A-S</h2> <h3>IP:192.168.5.21</h3> <h4>Service:Apache</h4> <input?type=button??value="Refresh"?οnclick="window.location.href('http://192.168.5.21')"> </body> </html>

Systemctl?start?httpd

然后添加默認的防火墻端口8o

Firewall-cmd?--zone=public?--add-port='80/tcp'?--permanent

或者vim?/etc/firewalld/zone/public.xml 添加一下格式 <port?portocal='tcp'?port='80'>

我們測試訪問

我們按照同上的方法在第二臺服務器上進行配置,安裝跳過

第二臺主機的配置:192.168.5.22? 主機名 B-S

安裝好httpd后,我們將a-s上的index拷貝到b-s服務器上

scp?index.html?root@192.168.5.22:/var/www/html/

然后修改index.html文件

</html> <!DOCTYPE?html> <html> <head> <title>Welcome?to?Apache</title> <style>body?{35em;margin:?0?auto;font-family:?Tahoma,?Verdana,?Arial,?sans-serif;} </style> <style?type="text/css"> h1{color:red} h2{color:blue} h3{color:green} h4{color:yellow} } </style> </head><body?bgcolor='#CA8EFF'> <h1>Welcome?to?B-S?Apache</h1> <h2>HostName:B-S</h2> <h3>IP:192.168.5.22</h3> <h4>Service:Apache</h4> <input?type=button??value="Refresh"?οnclick="window.location.href('http://192.168.5.22')"> </body> </html>

測試訪問

接下來我們開始準備在兩臺前端服務器192.168.5.53、192.168.5.54上安裝nginx和keepalived;我們將keepalived和nginx安裝在同一臺機器上

我們首先在主備服務器上安裝nginx

我們首先要定于安裝源, 才可以使用yum安裝,我們在主備服務器上都配置

cd?/etc/yum.repo vim?epel.repo 添加以下內容 [epel]???name=aliyun?epel????baseurl=http://mirrors.aliyun.com/epel/7Server/x86_64/ gpgcheck=0

定義好后,我們將定義的安裝源給另外一臺備服務器也拷貝一份

scp?/etc/yum.repo/epel.repo?root@192.168.5.54/etc/yum.repo/

指定源后,我們就可以開始安裝nginx了,首先在主服務器上

yum?install?-y?nginx

安裝后,我們首先查看默認的nginx配置

vim?/etc/nginx/nginx.conf #?For?more?information?on?configuration,?see: #???*?Official?English?Documentation:?http://nginx.org/en/docs/ #???*?Official?Russian?Documentation:?http://nginx.org/ru/docs/ user?nginx; worker_processes?auto; error_log?/var/log/nginx/error.log; pid?/run/nginx.pid; #?Load?dynamic?modules.?See?/usr/share/nginx/README.dynamic. include?/usr/share/nginx/modules/*.conf; events?{worker_connections?1024; } http?{log_format??main??'$remote_addr?-?$remote_user?[$time_local]?"$request"?''$status?$body_bytes_sent?"$http_referer"?''"$http_user_agent"?"$http_x_forwarded_for"';access_log??/var/log/nginx/access.log??main;sendfile????????????on;tcp_nopush??????????on;tcp_nodelay?????????on;keepalive_timeout???65;types_hash_max_size?2048;include?????????????/etc/nginx/mime.types;default_type????????application/octet-stream;#?Load?modular?configuration?files?from?the?/etc/nginx/conf.d?directory.#?See?http://nginx.org/en/docs/ngx_core_module.html#include#?for?more?information.include?/etc/nginx/conf.d/*.conf;server?{listen???????80?default_server;listen???????[::]:80?default_server;server_name??_;root?????????/usr/share/nginx/html;#?Load?configuration?files?for?the?default?server?block.include?/etc/nginx/default.d/*.conf;location?/?{}error_page?404?/404.html;location?=?/40x.html?{}error_page?500?502?503?504?/50x.html;location?=?/50x.html?{}} #?Settings?for?a?TLS?enabled?server. # #????server?{ #????????listen???????443?ssl?http2?default_server; #????????listen???????[::]:443?ssl?http2?default_server; #????????server_name??_; #????????root?????????/usr/share/nginx/html; # #????????ssl_certificate?"/etc/pki/nginx/server.crt"; #????????ssl_certificate_key?"/etc/pki/nginx/private/server.key"; #????????ssl_session_cache?shared:SSL:1m; #????????ssl_session_timeout??10m; #????????ssl_ciphers?HIGH:!aNULL:!MD5; #????????ssl_prefer_server_ciphers?on; # #????????#?Load?configuration?files?for?the?default?server?block. #????????include?/etc/nginx/default.d/*.conf; # #????????location?/?{ #????????} # #????????error_page?404?/404.html; #????????????location?=?/40x.html?{ #????????} # #????????error_page?500?502?503?504?/50x.html; #????????????location?=?/50x.html?{ #????????} #????} }

默認配置我們備份一份

cp?/etc/nginx/nginx.conf?/etc/nginx/nginx.conf.bak

接下來我們要配置nginx實現后端服務器的web的負載均衡;

在此我們使用的是nginx負載均衡的默認方式-輪詢

我們需要在http區域里面添加負載配置

upstream?real_server_pool?{#ip_hash;server??192.168.5.21:80?weight=1?max_fails=2?fail_timeout=30s;server??192.168.5.22:80?weight=1?max_fails=2?fail_timeout=30s;}#?添加一組真實的服務器地址池#?供proxy_pass和fastcgi_pass指令中使用的代理服務器#?后臺如果有動態應用的時候,ip_hash指令可以通過hash算法#?將客戶端請求定位到同一臺后端服務器上,解決session共享,#?但建議用動態應用做session共享#?server用于指定一個后端服務器的名稱和參數#?weight代表權,重默認為1,權重越高被分配的客戶端越多#?max_fails?指定時間內對后端請求失敗的次數#?fail_timeout?達到max_fails指定的失敗次數后暫停的時間#?down參數用來標記為離線,不參與負載均衡.在ip_hash下使用#?backup僅僅在非backup服務器宕機或繁忙的時候使用server?{listen???????192.168.5.53:80;?????????????#?監聽ip改為本地ipserver_name??localhost;#charset?koi8-r;#access_log??logs/host.access.log??main;location?/?{#root???html;#index??index.html?index.htm;proxy_next_upstream?http_502?http_504?error?timeout?invalid_header;proxy_pass?http://real_server_pool;proxy_set_header?Host?$host;proxy_set_header?X-Forwarded-For?$remote_addr;}

添加后的

#?For?more?information?on?configuration,?see: #???*?Official?English?Documentation:?http://nginx.org/en/docs/ #???*?Official?Russian?Documentation:?http://nginx.org/ru/docs/ user?nginx; worker_processes?auto; error_log?/var/log/nginx/error.log; pid?/run/nginx.pid; #?Load?dynamic?modules.?See?/usr/share/nginx/README.dynamic. include?/usr/share/nginx/modules/*.conf; events?{worker_connections?1024; } http?{log_format??main??'$remote_addr?-?$remote_user?[$time_local]?"$request"?''$status?$body_bytes_sent?"$http_referer"?''"$http_user_agent"?"$http_x_forwarded_for"';access_log??/var/log/nginx/access.log??main;sendfile????????????on;tcp_nopush??????????on;tcp_nodelay?????????on;keepalive_timeout???65;types_hash_max_size?2048;include?????????????/etc/nginx/mime.types;default_type????????application/octet-stream;upstream?real_server_pool?{#ip_hash;server??192.168.5.21:80?weight=1?max_fails=2?fail_timeout=30s;server??192.168.5.22:80?weight=1?max_fails=2?fail_timeout=30s;}#?添加一組真實的服務器地址池#?供proxy_pass和fastcgi_pass指令中使用的代理服務器#?后臺如果有動態應用的時候,ip_hash指令可以通過hash算法#?將客戶端請求定位到同一臺后端服務器上,解決session共享,#?但建議用動態應用做session共享#?server用于指定一個后端服務器的名稱和參數#?weight代表權,重默認為1,權重越高被分配的客戶端越多#?max_fails?指定時間內對后端請求失敗的次數#?fail_timeout?達到max_fails指定的失敗次數后暫停的時間#?down參數用來標記為離線,不參與負載均衡.在ip_hash下使用#?backup僅僅在非backup服務器宕機或繁忙的時候使用#?Load?modular?configuration?files?from?the?/etc/nginx/conf.d?directory.#?See?http://nginx.org/en/docs/ngx_core_module.html#include#?for?more?information.include?/etc/nginx/conf.d/*.conf;server?{#??listen???????80?default_server;#??listen???????[::]:80?default_server;listen???????192.168.5.53:80;?????????????#?監聽ip改為本地ipserver_name??localhost;#?server_name??_;root?????????/usr/share/nginx/html;#?Load?configuration?files?for?the?default?server?block.include?/etc/nginx/default.d/*.conf; #增加的location?/?{#root???html;#index??index.html?index.htm;proxy_next_upstream?http_502?http_504?error?timeout?invalid_header;proxy_pass?http://real_server_pool;proxy_set_header?Host?$host;proxy_set_header?X-Forwarded-For?$remote_addr;}error_page?404?/404.html;location?=?/40x.html?{}error_page?500?502?503?504?/50x.html;location?=?/50x.html?{}} #?Settings?for?a?TLS?enabled?server. # #????server?{ #????????listen???????443?ssl?http2?default_server; #????????listen???????[::]:443?ssl?http2?default_server; #????????server_name??_; #????????root?????????/usr/share/nginx/html; # #????????ssl_certificate?"/etc/pki/nginx/server.crt"; #????????ssl_certificate_key?"/etc/pki/nginx/private/server.key"; #????????ssl_session_cache?shared:SSL:1m; #????????ssl_session_timeout??10m; #????????ssl_ciphers?HIGH:!aNULL:!MD5; #????????ssl_prefer_server_ciphers?on; # #????????#?Load?configuration?files?for?the?default?server?block. #????????include?/etc/nginx/default.d/*.conf; # #????????location?/?{ #????????} # #????????error_page?404?/404.html; #????????????location?=?/40x.html?{ #????????} # #????????error_page?500?502?503?504?/50x.html; #????????????location?=?/50x.html?{ #????????} #????} }

接著我們重啟nginx

systemctl?enable?nginx systemctl?start?nginx

接下來我們嘗試訪問一下,因為使用的是輪詢,所以訪問nginx會跳轉到不同的兩個頁面

我們在安裝keepalived前,先配置路由轉發

vim?/etc/sysctl.conf net.ipv4.ip_forward?=?1?#?此參數改為1

sysctl?-p?#?使修改生效

接著我們在主服務器上安裝keepalived

yum?install?-y?keepalived

安裝完成后,我們備份一下keepalived的配置文件

cp?/etc/keepalived/keepalived.conf??/etc/keepalived/keepalived.conf.bak

接下來我們查看一下默認的keepalived默認配置

cat?/etc/keepalived/keepalived.conf !?Configuration?File?for?keepalived global_defs?{notification_email?{acassen@firewall.locfailover@firewall.locsysadmin@firewall.loc}notification_email_from?Alexandre.Cassen@firewall.locsmtp_server?192.168.200.1smtp_connect_timeout?30router_id?LVS_DEVEL } vrrp_instance?VI_1?{state?MASTERinterface?eth0virtual_router_id?51priority?100advert_int?1authentication?{auth_type?PASSauth_pass?1111}virtual_ipaddress?{192.168.200.16192.168.200.17192.168.200.18} } virtual_server?192.168.200.100?443?{delay_loop?6lb_algo?rrlb_kind?NATnat_mask?255.255.255.0persistence_timeout?50protocol?TCPreal_server?192.168.201.100?443?{weight?1SSL_GET?{url?{path?/digest?ff20ad2481f97b1754ef3e12ecd3a9cc}url?{path?/mrtg/digest?9b3a0c85a887a256d6939da88aabd8cd}connect_timeout?3nb_get_retry?3delay_before_retry?3}} } virtual_server?10.10.10.2?1358?{delay_loop?6lb_algo?rrlb_kind?NATpersistence_timeout?50protocol?TCPsorry_server?192.168.200.200?1358real_server?192.168.200.2?1358?{weight?1HTTP_GET?{url?{path?/testurl/test.jspdigest?640205b7b0fc66c1ea91c463fac6334d}url?{path?/testurl2/test.jspdigest?640205b7b0fc66c1ea91c463fac6334d}url?{path?/testurl3/test.jspdigest?640205b7b0fc66c1ea91c463fac6334d}connect_timeout?3nb_get_retry?3delay_before_retry?3}}real_server?192.168.200.3?1358?{weight?1HTTP_GET?{url?{path?/testurl/test.jspdigest?640205b7b0fc66c1ea91c463fac6334c}url?{path?/testurl2/test.jspdigest?640205b7b0fc66c1ea91c463fac6334c}connect_timeout?3nb_get_retry?3delay_before_retry?3}} } virtual_server?10.10.10.3?1358?{delay_loop?3lb_algo?rrlb_kind?NATnat_mask?255.255.255.0persistence_timeout?50protocol?TCPreal_server?192.168.200.4?1358?{weight?1HTTP_GET?{url?{path?/testurl/test.jspdigest?640205b7b0fc66c1ea91c463fac6334d}url?{path?/testurl2/test.jspdigest?640205b7b0fc66c1ea91c463fac6334d}url?{path?/testurl3/test.jspdigest?640205b7b0fc66c1ea91c463fac6334d}connect_timeout?3nb_get_retry?3delay_before_retry?3}}real_server?192.168.200.5?1358?{weight?1HTTP_GET?{url?{path?/testurl/test.jspdigest?640205b7b0fc66c1ea91c463fac6334d}url?{path?/testurl2/test.jspdigest?640205b7b0fc66c1ea91c463fac6334d}url?{path?/testurl3/test.jspdigest?640205b7b0fc66c1ea91c463fac6334d}connect_timeout?3nb_get_retry?3delay_before_retry?3}} }

接下來我們修改默認的keepalived配置

echo?>?/etc/keepalived/keepalived.conf

我們清空默認配置后,添加以下內容

vim?/etc/keepalived/keepalived.conf global_defs?{notification_email?{gavin@ixmsoft.com?????????????#?定義通知郵箱,有多個可以換行添加?????? }notification_email_from?admin@ixmsoft.com#?定義發送郵件的郵箱smtp_server?mail.ixmsoft.com?????????????#?定義發件服務器smtp_connect_timeout?30??????????????????#?定義連接smtp服務器超時時間router_id?LVS_DEVEL } vrrp_instance?VI_1?{state?MASTER???????????????????#?標示主備,備機上改為BACKUPinterface???ens160???????????#?HA監測的端口virtual_router_id?51???????????#?主備的virtual_router_id的值必須相同priority?100???????????????????#?優先級,通常主要比備稍大advert_int?1???????????????????#?VRRP?Multicast?廣播周期秒數authentication?{???????????????#?定義認證auth_type?PASS?????????????#?認證方式auth_pass?1111?????????????#?認證口令字}virtual_ipaddress?{????????????#?定義vip192.168.5.88??????????????#?多個可換行添加,一行一個} } virtual_server?192.168.5.88?80?{delay_loop?6?????????????#?每隔?6?秒查詢?realserver?狀態lb_algo?rrlb_kind?NATnat_mask?255.255.255.0persistence_timeout?50???#?同一IP?的連接50秒內被分配到同一臺realserverprotocol?TCP?????????????#?用TCP監測realserver的狀態real_server?192.168.5.53?80?{?????????????#需要指向nginx負載的地址weight?3????????????????#?權重TCP_CHECK?{connect_timeout?10??#?10秒無響應超時nb_get_retry?3delay_before_retry?3connect_port?80}}real_server?192.168.5.54?80?{??????????????#需要指向nginx負載的地址weight?3TCP_CHECK?{connect_timeout?3delay_before_retry?3connect_port?80}} }

我們介紹一下主要參數

global_defs notification_email?:?keepalived在發生諸如切換操作時需要發送email通知地址,后面的?smtp_server?相比也都知道是郵件服務器地址。也可以通過其它方式報警,畢竟郵件不是實時通知的。 router_id?:?機器標識,通常可設為hostname。故障發生時,郵件通知會用到 vrrp_instance state?:?指定instance(Initial)的初始狀態,就是說在配置好后,這臺服務器的初始狀態就是這里指定的,但這里指定的不算,還是得要通過競選通過優先級來確定。如果這里設置為MASTER,但如若他的優先級不及另外一臺,那么這臺在發送通告時,會發送自己的優先級,另外一臺發現優先級不如自己的高,那么他會就回搶占為MASTER interface?:?實例綁定的網卡,因為在配置虛擬IP的時候必須是在已有的網卡上添加的 mcast_src_ip?:?發送多播數據包時的源IP地址,這里注意了,這里實際上就是在那個地址上發送VRRP通告,這個非常重要,一定要選擇穩定的網卡端口來發送,這里相當于heartbeat的心跳端口,如果沒有設置那么就用默認的綁定的網卡的IP,也就是interface指定的IP地址 virtual_router_id?:?這里設置VRID,這里非常重要,相同的VRID為一個組,他將決定多播的MAC地址 priority?:?設置本節點的優先級,優先級高的為master advert_int?:?檢查間隔,默認為1秒。這就是VRRP的定時器,MASTER每隔這樣一個時間間隔,就會發送一個advertisement報文以通知組內其他路由器自己工作正常 authentication?:?定義認證方式和密碼,主從必須一樣 virtual_ipaddress?:?這里設置的就是VIP,也就是虛擬IP地址,他隨著state的變化而增加刪除,當state為master的時候就添加,當state為backup的時候刪除,這里主要是有優先級來決定的,和state設置的值沒有多大關系,這里可以設置多個IP地址 track_script?:?引用VRRP腳本,即在?vrrp_script?部分指定的名字。定期運行它們來改變優先級,并最終引發主備切換。 vrrp_script 告訴?keepalived?在什么情況下切換,所以尤為重要。可以有多個?vrrp_script script?:?自己寫的檢測腳本。也可以是一行命令如killall?-0?nginx interval?2?:?每2s檢測一次 weight?-5?:?檢測失敗(腳本返回非0)則優先級?-5 fall?2?:?檢測連續?2?次失敗才算確定是真失敗。會用weight減少優先級(1-255之間) rise?1?:?檢測?1?次成功就算成功。但不修改優先級

保存退出后,我們啟動keepalived

systemctl?start?keepalived systemctl?enable?keepalived

然后我們測試ping一下vistual ip

注:如果ping不通vistual ip的話,有可能是keepalived.conf文件的中的網卡配置,centos6的網卡是eth0,而centos7的是 ens160

ping 192.168.5.88

接下來我們配置第二臺備服務器,然后首先安裝及配置nginx

yum?install?-y?nginx

然后備份備服務器的nginx.conf文件

cp?/etc/nginx/nginx.conf?/etc/nginx/nginx.conf.bak

然后我們從主服務器下的nginx.conf配置拷貝到備服務器nginx目錄下,然后替換默認的nginx.conf文件

scp?/etc/nginx/nginx.conf?root@192.168.5.54:/etc/nginx/

然后我們修改備服務器的監聽地址,需要指向備服務器的本地地址--->?????? listen?????? 192.168.5.54:80;???????????? # 監聽ip改為本地ip

#?For?more?information?on?configuration,?see: #???*?Official?English?Documentation:?http://nginx.org/en/docs/ #?For?more?information?on?configuration,?see: #???*?Official?English?Documentation:?http://nginx.org/en/docs/ #???*?Official?Russian?Documentation:?http://nginx.org/ru/docs/ user?nginx; worker_processes?auto; error_log?/var/log/nginx/error.log; pid?/run/nginx.pid; #?Load?dynamic?modules.?See?/usr/share/nginx/README.dynamic. include?/usr/share/nginx/modules/*.conf; events?{worker_connections?1024; } http?{log_format??main??'$remote_addr?-?$remote_user?[$time_local]?"$request"?''$status?$body_bytes_sent?"$http_referer"?''"$http_user_agent"?"$http_x_forwarded_for"';access_log??/var/log/nginx/access.log??main;sendfile????????????on;tcp_nopush??????????on;tcp_nodelay?????????on;keepalive_timeout???65;types_hash_max_size?2048;include?????????????/etc/nginx/mime.types;default_type????????application/octet-stream;upstream?real_server_pool?{#ip_hash;server??192.168.5.21:80?weight=1?max_fails=2?fail_timeout=30s;server??192.168.5.22:80?weight=1?max_fails=2?fail_timeout=30s;}#?添加一組真實的服務器地址池#?供proxy_pass和fastcgi_pass指令中使用的代理服務器#?后臺如果有動態應用的時候,ip_hash指令可以通過hash算法#?將客戶端請求定位到同一臺后端服務器上,解決session共享,#?但建議用動態應用做session共享#?server用于指定一個后端服務器的名稱和參數#?weight代表權,重默認為1,權重越高被分配的客戶端越多#?max_fails?指定時間內對后端請求失敗的次數#?fail_timeout?達到max_fails指定的失敗次數后暫停的時間#?down參數用來標記為離線,不參與負載均衡.在ip_hash下使用#?backup僅僅在非backup服務器宕機或繁忙的時候使用#?Load?modular?configuration?files?from?the?/etc/nginx/conf.d?directory.#?See?http://nginx.org/en/docs/ngx_core_module.html#include#?for?more?information.include?/etc/nginx/conf.d/*.conf;server?{#??listen???????80?default_server;#??listen???????[::]:80?default_server;listen???????192.168.5.54:80;?????????????#?監聽ip改為本地ipserver_name??localhost;#?server_name??_;root?????????/usr/share/nginx/html;#?Load?configuration?files?for?the?default?server?block.include?/etc/nginx/default.d/*.conf;location?/?{#root???html;#index??index.html?index.htm;proxy_next_upstream?http_502?http_504?error?timeout?invalid_header;proxy_pass?http://real_server_pool;proxy_set_header?Host?$host;proxy_set_header?X-Forwarded-For?$remote_addr;}error_page?404?/404.html;location?=?/40x.html?{}error_page?500?502?503?504?/50x.html;location?=?/50x.html?{}} #?Settings?for?a?TLS?enabled?server. # #????server?{ #????????listen???????443?ssl?http2?default_server; #????????listen???????[::]:443?ssl?http2?default_server; #????????server_name??_; #????????root?????????/usr/share/nginx/html; # #????????ssl_certificate?"/etc/pki/nginx/server.crt"; #????????ssl_certificate_key?"/etc/pki/nginx/private/server.key"; #????????ssl_session_cache?shared:SSL:1m; #????????ssl_session_timeout??10m; #????????ssl_ciphers?HIGH:!aNULL:!MD5; #????????ssl_prefer_server_ciphers?on; # #????????#?Load?configuration?files?for?the?default?server?block. #????????include?/etc/nginx/default.d/*.conf; # #????????location?/?{ #????????} # #????????error_page?404?/404.html; #????????????location?=?/40x.html?{ #????????} # #????????error_page?500?502?503?504?/50x.html; #????????????location?=?/50x.html?{ #????????} #????} }

其實我們也可以只修改添加的內容

??

??upstream?real_server_pool?{#ip_hash;server??192.168.5.21:80?weight=1?max_fails=2?fail_timeout=30s;server??192.168.5.22:80?weight=1?max_fails=2?fail_timeout=30s;}#?添加一組真實的服務器地址池#?供proxy_pass和fastcgi_pass指令中使用的代理服務器#?后臺如果有動態應用的時候,ip_hash指令可以通過hash算法#?將客戶端請求定位到同一臺后端服務器上,解決session共享,#?但建議用動態應用做session共享#?server用于指定一個后端服務器的名稱和參數#?weight代表權,重默認為1,權重越高被分配的客戶端越多#?max_fails?指定時間內對后端請求失敗的次數#?fail_timeout?達到max_fails指定的失敗次數后暫停的時間#?down參數用來標記為離線,不參與負載均衡.在ip_hash下使用#?backup僅僅在非backup服務器宕機或繁忙的時候使用server?{listen???????192.168.5.54:80;?????????????#?監聽ip改為本地ipserver_name??localhost;#charset?koi8-r;#access_log??logs/host.access.log??main;location?/?{#root???html;#index??index.html?index.htm;proxy_next_upstream?http_502?http_504?error?timeout?invalid_header;proxy_pass?http://real_server_pool;proxy_set_header?Host?$host;proxy_set_header?X-Forwarded-For?$remote_addr;}

然后我們啟動備服務器的nginx服務

systemctl?start?nginx systemctl?enable?nginx

我們在安裝keepalived前,先配置路由轉發

vim?/etc/sysctl.conf net.ipv4.ip_forward?=?1?#?此參數改為1

sysctl?-p?#?使修改生效

然后安裝keepalived

然后我們備份默認keepalived配置

cp?/etc/keepalived/keepalived.conf?/etc/keepalived/keepalived.conf.bak

然后修改拷貝的數據文件,

scp?/etc/keepalived/keepalived.conf?root@192.168.5.54:/etc/keepalived/

配置備用調度器的keepalived,只需要將state MASTER 改為state BACKUP,降低priority 100 的值:

vim?/etc/keepalived/keepalived.conf global_defs?{notification_email?{gavin@ixmsoft.com?????????????#?定義通知郵箱,有多個可以換行添加 }notification_email_from?admin@ixmsoft.com#?定義發送郵件的郵箱smtp_server?mail.ixmsoft.com?????????????#?定義發件服務器smtp_connect_timeout?30??????????????????#?定義連接smtp服務器超時時間router_id?LVS_DEVEL } vrrp_instance?VI_1?{state?BACKUP???????????????????#?標示主備,備機上改為BACKUPinterface????ens160??????????#?HA監測的端口virtual_router_id?51???????????#?主備的virtual_router_id的值必須相同priority?50???????????????????#?優先級,通常主要比備稍大advert_int?1???????????????????#?VRRP?Multicast?廣播周期秒數authentication?{???????????????#?定義認證auth_type?PASS?????????????#?認證方式auth_pass?1111?????????????#?認證口令字}virtual_ipaddress?{????????????#?定義vip192.168.5.88??????????????#?多個可換行添加,一行一個} } virtual_server?192.168.5.88?80?{delay_loop?6?????????????#?每隔?6?秒查詢?realserver?狀態lb_algo?rrlb_kind?NATnat_mask?255.255.255.0persistence_timeout?50???#?同一IP?的連接50秒內被分配到同一臺realserverprotocol?TCP?????????????#?用TCP監測realserver的狀態real_server?192.168.5.53?80?{???????#需要指向nginx負載的地址weight?3????????????????#?權重TCP_CHECK?{connect_timeout?10??#?10秒無響應超時nb_get_retry?3delay_before_retry?3connect_port?80}}real_server?192.168.5.54?80?{???#需要指向nginx負載的地址weight?3TCP_CHECK?{connect_timeout?3delay_before_retry?3connect_port?80}} }

我們介紹一下主要參數

global_defs notification_email?:?keepalived在發生諸如切換操作時需要發送email通知地址,后面的?smtp_server?相比也都知道是郵件服務器地址。也可以通過其它方式報警,畢竟郵件不是實時通知的。 router_id?:?機器標識,通常可設為hostname。故障發生時,郵件通知會用到 vrrp_instance state?:?指定instance(Initial)的初始狀態,就是說在配置好后,這臺服務器的初始狀態就是這里指定的,但這里指定的不算,還是得要通過競選通過優先級來確定。如果這里設置為MASTER,但如若他的優先級不及另外一臺,那么這臺在發送通告時,會發送自己的優先級,另外一臺發現優先級不如自己的高,那么他會就回搶占為MASTER interface?:?實例綁定的網卡,因為在配置虛擬IP的時候必須是在已有的網卡上添加的 mcast_src_ip?:?發送多播數據包時的源IP地址,這里注意了,這里實際上就是在那個地址上發送VRRP通告,這個非常重要,一定要選擇穩定的網卡端口來發送,這里相當于heartbeat的心跳端口,如果沒有設置那么就用默認的綁定的網卡的IP,也就是interface指定的IP地址 virtual_router_id?:?這里設置VRID,這里非常重要,相同的VRID為一個組,他將決定多播的MAC地址 priority?:?設置本節點的優先級,優先級高的為master advert_int?:?檢查間隔,默認為1秒。這就是VRRP的定時器,MASTER每隔這樣一個時間間隔,就會發送一個advertisement報文以通知組內其他路由器自己工作正常 authentication?:?定義認證方式和密碼,主從必須一樣 virtual_ipaddress?:?這里設置的就是VIP,也就是虛擬IP地址,他隨著state的變化而增加刪除,當state為master的時候就添加,當state為backup的時候刪除,這里主要是有優先級來決定的,和state設置的值沒有多大關系,這里可以設置多個IP地址 track_script?:?引用VRRP腳本,即在?vrrp_script?部分指定的名字。定期運行它們來改變優先級,并最終引發主備切換。 vrrp_script 告訴?keepalived?在什么情況下切換,所以尤為重要。可以有多個?vrrp_script script?:?自己寫的檢測腳本。也可以是一行命令如killall?-0?nginx interval?2?:?每2s檢測一次 weight?-5?:?檢測失敗(腳本返回非0)則優先級?-5 fall?2?:?檢測連續?2?次失敗才算確定是真失敗。會用weight減少優先級(1-255之間) rise?1?:?檢測?1?次成功就算成功。但不修改優先級

記得修改防火墻配置哦

firewall-cmd?--add-port='tcp/80'?--permanent

然后我們啟動 keepalived服務

systemctl?start?keepalived systemcltl?enable?keepalived

我們也測試ping一下vistual ip:

ping 192.168.5.88

接下來我們要實現realserver服務器配置

我們需要在兩臺web(http)192.168.5.21,192.168.5.22,需要在這兩臺服務器上配置虛擬VIP,所以在服務器上執行以下腳本

首先在192.168.5.21服務器上新建腳本文件

vim?real_server 然后添加一下腳本內容: #!/bin/bash #?chkconfig:?2345?85?35 #?Description:?Start?real?server?with?host?boot VIP=192.168.5.88 function?start()?{ ifconfig?lo:0?$VIP?netmask?255.255.255.255?broadcast?$VIP echo?1?>/proc/sys/net/ipv4/conf/lo/arp_ignore echo?2?>/proc/sys/net/ipv4/conf/lo/arp_announce echo?1?>/proc/sys/net/ipv4/conf/all/arp_ignore echo?2?>/proc/sys/net/ipv4/conf/all/arp_announce echo?“Real?Server?$(uname?-n)?started” } function?stop()?{ ifconfig?lo:0?down ifconfig?lo:0?$VIP?netmask?255.255.255.255?broadcast?$VIP echo?0?>/proc/sys/net/ipv4/conf/lo/arp_ignore echo?0?>/proc/sys/net/ipv4/conf/lo/arp_announce echo?0?>/proc/sys/net/ipv4/conf/all/arp_ignore echo?0?>/proc/sys/net/ipv4/conf/all/arp_announce echo?“Real?Server?$(uname?-n)?stopped” } case?$1?in start) start ;; stop) stop ;; *) echo?“Usage:?$0?{start|stop}” exit?1 esac

保存退出后

然后賦予執行權限

chmoe?a+x?realserver

然后將腳本拷貝到第二臺web服務器上:192.168.5.22

scp?/DATA/real_server?root@192.168.5.22/DATA/

我們在第二臺服務器上查看

最后我們說一下如何將realserver的腳本添加到隨系統啟動

我們將使用chkconfig --add 來管理服務器的添加、順序

cp?realserver?/etc/init.d/?將腳本拷貝到指定目錄 chkconfig?--add?realserver?添加realserver腳本到自動啟動 chkconfig?--list?查看自動啟動服務

chkconfig?--list?查看自動啟動服務

通過以上配置后,我們就可以通過服務進行操作了

/etc/init.d/realserver?stop /etc/init.d/realserver?start

chkconfig?realserver?on?設置為自動啟動

然后我們在第二臺web服務器上做同樣的操作

cp?realserver?/etc/init.d/?將腳本拷貝到指定目錄 chkconfig?--add?realserver?添加realserver腳本到自動啟動 chkconfig?--list?查看自動啟動服務

chkconfig?--list?查看自動啟動服務

通過以上配置后,我們就可以通過服務進行操作了

/etc/init.d/realserver?stop /etc/init.d/realserver?start

chkconfig?realserver?on?設置為自動啟動

接下來我們就是測試了,我們在兩臺realserver上執行查看ip狀態

a-s ip?a?sh

b-s ip?a?sh

最后我們在keelalived服務器上查看ip狀態,從狀態上看,我們的keepalived是監聽在備服務器上的,如果將備服務器keepalibed停止后,會切換到主服務器上的

aa-s??主服務器 ip?a?sh

備服務器:

bb-s?備服務器 ip?a?sh

最后我們就是測試了

我們訪問vistual ip進行測試

我們查看log

tail?-f?/var/log/message

我們停止主服務器的keepalived服務

查看備服務器的log

最后我們說一下keepalived的log;Keepalived默認所有的日志都是寫入到/var/log/message下的,由于message的日志太多了,而Keepalived的日志又很難分離出來,所以本文提供了一個調整Keepalived日志輸出路徑的方法。 ?
具體操作步驟如下: ? ?
一、修改 /etc/sysconfig/keepalived

默認配置

vim?/etc/sysconfig/keepalived

vim?/etc/sysconfig/keepalived 把KEEPALIVED_OPTIONS="-D"?修改為KEEPALIVED_OPTIONS="-D?-d?-S?0" #其中-S指定syslog的facility


接下來設置syslog vim??/etc/rsyslog.conf 注:Cnetos6的路勁是/etc/syslog.conf Centos7的路勁是/etc/rsyslog.conf 添加以下配置 #?keepalived?-S?0 local0.*????/var/log/keepalived.log

保存退出后,重啟服務

systemctl?restart?rsyslog systemctl?restart?keepalived

接下來我們查看/var/log路勁是否生成了keepalived.log文件

tail?-f?/var/log/keepalived.conf

轉載于:https://blog.51cto.com/gaowenlong/1887956

創作挑戰賽新人創作獎勵來咯,堅持創作打卡瓜分現金大獎

總結

以上是生活随笔為你收集整理的Centos7+Nginx+Keepalived实现Apache服务的高可用负载均衡的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。

亚洲春色综合另类校园电影 | 黄色a一级片 | 国产精品高清在线观看 | 久久精品国产第一区二区三区 | 午夜久久久久久久久久久 | 免费看黄色毛片 | 毛片1000部免费看 | 美女网站在线观看 | 黄色av一区 | 国产91精品一区二区 | 四虎影视欧美 | 黄色成人影视 | 日韩精品免费在线视频 | 国产三级av在线 | 黄色成人在线观看 | 久久深夜福利免费观看 | 激情婷婷久久 | 国产免费叼嘿网站免费 | 欧美成人精品在线 | 免费看的黄色的网站 | 在线观看黄色免费视频 | 久章草在线观看 | 成人免费观看视频大全 | 免费看黄色毛片 | 亚洲国产精品免费 | www.av中文字幕.com| 粉嫩av一区二区三区四区在线观看 | 亚洲成a人片综合在线 | 韩国av免费在线观看 | 中文字幕在线观看不卡 | 成人一区二区三区中文字幕 | 美女视频免费一区二区 | 一区二区中文字幕在线观看 | 日韩高清不卡一区二区三区 | 婷婷伊人综合 | 国产精品毛片一区二区 | 久久九九视频 | 国产高清无av久久 | www.少妇| 在线观看免费成人av | 日韩精品无码一区二区三区 | 成人a在线观看高清电影 | 久久精品99国产精品酒店日本 | 午夜精品福利一区二区 | 黄色影院在线免费观看 | 天天操天天添 | 婷婷5月激情5月 | 免费能看的av | 国产中文欧美日韩在线 | 欧美色操 | 中文字幕免费久久 | 91香蕉视频好色先生 | 亚洲高清视频在线观看 | 中文在线8新资源库 | 欧美专区亚洲专区 | 国语对白少妇爽91 | www.69xx| 亚洲精品字幕在线 | 不卡视频在线 | 在线观看成人一级片 | 一区二区欧美在线观看 | 摸阴视频| 国产裸体视频bbbbb | 国产精品com | 美女网站在线播放 | 国产又粗又猛又黄又爽的视频 | 欧美一区免费在线观看 | 日韩av成人在线 | 国产精品乱码久久久 | 国产成人精品电影久久久 | 久久久影院一区二区三区 | 免费高清在线观看成人 | 亚洲九九爱 | 中国一级特黄毛片大片久久 | 欧美色图狠狠干 | 欧美最新另类人妖 | 久久电影中文字幕视频 | 国产 欧美 在线 | 蜜臀久久99精品久久久无需会员 | 免费看一级黄色大全 | 国产大陆亚洲精品国产 | 国产一区在线免费观看视频 | 亚洲精品中文在线 | www免费| 国产专区第一页 | 久久五月天婷婷 | 日本黄网站| 久久精品—区二区三区 | 成人影视免费 | 国产视频1 | 国产1区在线观看 | 人人艹人人 | 丁香六月国产 | 久久人操 | 91在线九色 | 日韩手机视频 | 在线视频 你懂得 | 国产啊v在线 | avhd高清在线谜片 | 亚洲免费永久精品国产 | 1024在线看片 | 国产小视频网站 | 天天干天天摸天天操 | 午夜久久影视 | 中文在线8资源库 | 97电影网站 | 激情综合狠狠 | 久久久久久久久久久久亚洲 | 日本在线精品视频 | 成片人卡1卡2卡3手机免费看 | 久久综合影院 | 伊人天天| 日韩在线网 | 婷婷开心久久网 | 一区二区视频电影在线观看 | 高清av网站 | 久久久久免费精品视频 | 福利视频 | 在线视频欧美日韩 | 久久久国产精品成人免费 | 亚洲三级在线免费观看 | 亚洲精品欧洲精品 | www久久 | 国产一级特黄毛片在线毛片 | 92国产精品久久久久首页 | 中文亚洲欧美日韩 | www中文在线 | 99国产高清| 91看片一区二区三区 | 日韩视频在线观看视频 | 91av视频在线观看 | 国产剧情久久 | 国产精品永久免费在线 | 天堂网av在线 | 超碰97免费观看 | www最近高清中文国语在线观看 | 四虎国产精品免费 | 9999国产精品 | 日日夜精品 | 久免费视频 | 国产精品网在线观看 | 91在线看黄 | 在线观看视频一区二区 | 免费日韩一区 | 懂色av一区二区三区蜜臀 | 日韩sese | 十八岁免进欧美 | 国产精品久久嫩一区二区免费 | 99免费观看视频 | 久久99精品国产麻豆婷婷 | 精品国产乱码一区二 | 天天玩天天干 | 日本精品在线看 | 美女视频黄色免费 | 久草在线免费资源 | 亚洲电影图片小说 | 天天狠狠操 | 日韩大片在线看 | 日本精品在线视频 | 欧美性网站 | 国产丝袜在线 | 欧美一二三视频 | 亚洲 欧美 精品 | 天天射天天爱天天干 | 日韩一级片网址 | 91自拍视频在线观看 | 久久综合色一综合色88 | 四虎国产精品永久在线国在线 | 亚洲一区二区三区在线看 | 天天干天天干天天干天天干天天干天天干 | 最新国产精品拍自在线播放 | 偷拍精品一区二区三区 | 91在线视频网址 | 亚洲精品国偷拍自产在线观看蜜桃 | 中文字幕五区 | 黄色成人影院 | 天天操夜夜逼 | 2000xxx影视| 国产黄色免费看 | 日本女人逼 | 婷婷去俺也去六月色 | 天堂麻豆| 久草在线视频新 | 午夜久久久影院 | 亚洲欧美va | 欧美性猛片, | 成年美女黄网站色大片免费看 | 久久成人午夜视频 | 国产99久久久国产精品免费二区 | 国产女人40精品一区毛片视频 | 国产亚洲欧美日韩高清 | 成人禁用看黄a在线 | 国产精品久久久久影视 | av成人资源| 国产美女免费 | 毛片1000部免费看 | 国产在线资源 | 欧美日韩国产一二三区 | 97在线超碰 | 久久99久久99精品免费看小说 | 最新精品视频在线 | 免费黄色在线网址 | 97在线观看免费高清完整版在线观看 | 婷婷国产一区二区三区 | 97视频免费在线 | 国产系列 在线观看 | a极黄色片 | 狠狠色丁香久久婷婷综合五月 | 91秒拍国产福利一区 | av在线电影免费观看 | 国产一级91 | 成片人卡1卡2卡3手机免费看 | 精产嫩模国品一二三区 | 在线观看视频国产 | 午夜精品久久久久久久久久久 | 狠狠干婷婷色 | 天天操天天爱天天干 | 久久电影日韩 | 免费看一级黄色 | 欧美人体xx| 国产中文字幕91 | 国内久久视频 | 女女av在线 | 久久久久久久久久电影 | 亚洲精品午夜久久久久久久久久久 | 日韩一二区在线观看 | 欧美激情视频在线免费观看 | 97香蕉久久超级碰碰高清版 | 在线观看一区 | 亚洲3级 | 不卡的av中文字幕 | 91一区啪爱嗯打偷拍欧美 | 日韩欧美在线高清 | 91av视频在线观看免费 | 特及黄色片 | 人人爽人人爽人人片av免 | 成片免费观看视频 | 色99色| 91亚洲精品久久久久图片蜜桃 | 狠狠操夜夜操 | 天天色天天射天天干 | 久久免费成人精品视频 | 久久精品99精品国产香蕉 | 91精品入口| 国产91九色蝌蚪 | 国产福利精品视频 | 午夜黄网 | 九九一级片 | 日韩免费一级a毛片在线播放一级 | 在线免费观看视频一区二区三区 | 国产午夜精品一区二区三区嫩草 | 久久久久久毛片 | 日韩电影在线观看一区 | 国产偷v国产偷∨精品视频 在线草 | 久久精品国产免费看久久精品 | 国产第一页在线播放 | 精品一二三四在线 | 五月婷婷黄色网 | 日韩精品一区二区三区第95 | 中文字幕国产在线 | 久草在线最新 | 水蜜桃亚洲一二三四在线 | 一区二区精品在线 | 天天草天天色 | 日日婷婷夜日日天干 | 国产高清99 | 99久国产| 亚洲免费一级电影 | 欧美激情精品一区 | 日韩精品观看 | 国产在线国偷精品产拍免费yy | 福利视频网址 | 精品福利国产 | 亚洲国产精品电影 | 99精品在线免费视频 | 国产黄色资源 | 精品黄色片 | 国产精品国产三级国产专区53 | 久久久久久久久久久久影院 | 国产久视频 | 日韩电影在线观看一区二区 | 天天干天天色2020 | 中文字幕久久精品 | 久久久久久片 | 免费看国产视频 | 日韩mv欧美mv国产精品 | 成人av影院在线观看 | 亚洲欧洲精品在线 | 69国产盗摄一区二区三区五区 | avav99| 久久国产影视 | 国产一级精品视频 | 日韩专区视频 | 午夜18视频在线观看 | 欧美伦理电影一区二区 | 在线最新av| 一区二区三区电影大全 | 午夜国产一区二区 | 国产清纯在线 | 青春草国产视频 | 深夜福利视频一区二区 | jizz999| 久久男人影院 | 激情五月婷婷网 | 欧美精品亚洲精品日韩精品 | 色综合色综合色综合 | 日韩欧美国产成人 | 国产成人av网站 | 日韩精品视频第一页 | 日本不卡123 | 日韩av一区二区三区在线观看 | 超碰97免费观看 | 日本少妇久久久 | 日韩精品视频在线观看网址 | 国产精品中文字幕av | 久久综合综合久久综合 | 欧美性做爰猛烈叫床潮 | 免费在线观看午夜视频 | 四虎影视8848aamm | 麻豆传媒一区二区 | 中文一区在线 | 在线亚洲午夜片av大片 | 在线黄色免费 | 69视频网站 | 欧美久久久影院 | 超碰人人在线观看 | 日日夜夜网 | 午夜狠狠操| 免费高清看电视网站 | 99视频在线精品国自产拍免费观看 | 日韩欧美一区二区三区黑寡妇 | 色 免费观看| 久草在线最新免费 | www久久| 高清av影院 | 99热官网| 色欧美视频 | 国产午夜麻豆影院在线观看 | 国产精品麻豆三级一区视频 | 久久天天躁狠狠躁夜夜不卡公司 | 色 免费观看 | 97超碰人人网 | 国产精彩视频一区二区 | 国产日产高清dvd碟片 | 92精品国产成人观看免费 | 国产91免费在线观看 | 成人黄色在线观看视频 | 国际精品久久久久 | 香蕉影院在线播放 | 久久女同性恋中文字幕 | 狠狠精品 | 在线看日韩 | 麻豆免费在线视频 | 免费在线观看成人小视频 | 最近中文字幕免费大全 | 久久成人毛片 | 免费视频18 | japanese黑人亚洲人4k | 成人av电影免费在线观看 | 免费三及片 | 欧美日本高清视频 | 午夜av片 | 国产精品成人品 | 最新动作电影 | 在线 精品 国产 | 在线视频福利 | 色婷婷久久一区二区 | 午夜丁香网 | 亚洲专区在线视频 | 国产精品久久久久高潮 | 国产精品伦一区二区三区视频 | 天堂麻豆| www.91国产| 国产免费观看视频 | 亚洲欧美激情插 | 特级a老妇做爰全过程 | 在线观看免费视频你懂的 | 黄色成人av | 久久久久人人 | 在线国产一区 | 久久久性 | 天天操天天操天天操天天 | 国产一区视频免费在线观看 | 日日夜夜狠狠 | 久久久亚洲麻豆日韩精品一区三区 | 亚洲综合色激情五月 | 久久精品综合一区 | av电影免费在线 | 国产视频2021 | 精品a视频 | 91高清免费在线观看 | 久久免费黄色大片 | 视频成人 | 午夜精品影院 | 日韩一区二区三 | 亚洲精品视频免费看 | 91av原创 | 免费看久久 | 国产盗摄精品一区二区 | 天天搞天天干天天色 | 91国内产香蕉 | 国产98色在线 | 日韩 | 99久久超碰中文字幕伊人 | 九九热.com| 国产一区二区精品久久91 | 在线观看免费福利 | av看片在线观看 | 欧美日韩精品在线播放 | 国产精品18videosex性欧美 | 国产九色91 | 在线日韩一区 | 日韩精品一区在线观看 | 亚洲自拍偷拍色图 | 成人av影院在线观看 | 欧美日韩国产在线 | 亚洲精品xx | 国产高清区| 96亚洲精品久久久蜜桃 | 国产午夜精品av一区二区 | 久精品视频免费观看2 | 91久久精品一区 | 国产精品video爽爽爽爽 | 欧美精品久久久久久久久久白贞 | 亚洲黄色av | 黄色片网站免费 | 久久综合色婷婷 | 日韩视频欧美视频 | 国产精品美女久久久久久 | 99精品电影 | 国产精品丝袜在线 | www.久久免费视频 | 日韩影视精品 | 欧洲av在线| www黄色av| 国产中文字幕大全 | 成人欧美一区二区三区在线观看 | 国产一级电影免费观看 | 国产xxxxx在线观看 | av在线免费网 | 国内精品免费 | 天天爽夜夜爽精品视频婷婷 | 97色在线观看免费视频 | 在线a亚洲视频播放在线观看 | 六月丁香在线观看 | 狠狠操狠狠插 | 美女黄网站视频免费 | 日本中文字幕免费观看 | www91在线| 免费视频黄 | 色婷婷www | 黄色一级在线免费观看 | 久久久久9999亚洲精品 | 日韩理论在线播放 | 久久69av | 伊人久久av| 欧美久久久久久久久久久 | 成人av在线亚洲 | 97精品一区二区三区 | 99草视频在线观看 | h视频在线看 | 亚洲二区精品 | 首页国产精品 | 国产精品午夜av | 久久最新 | 久久精品专区 | 最新中文在线视频 | 特级西西人体444是什么意思 | 久久久九色精品国产一区二区三区 | 久久天天操 | 激情九九| 色www永久免费 | 久久精品牌麻豆国产大山 | 日韩欧美视频一区二区三区 | 久久久久久久免费观看 | 亚洲精品乱码久久久久久蜜桃欧美 | 国产理论一区二区三区 | 久久精品草 | 精品国产伦一区二区三区观看体验 | 国产一区二区三区在线 | 免费视频久久 | 色综合中文综合网 | 在线视频你懂 | 亚洲成av人电影 | 天天干天天草天天爽 | 国内精品久久久久影院优 | 精品久久美女 | 国产一线二线三线在线观看 | 婷婷在线播放 | av直接看 | www日韩在线观看 | 伊人色综合久久天天网 | 国产v视频| 色成人亚洲 | 在线精品一区二区 | 激情五月婷婷激情 | 精品久久久久久亚洲综合网站 | 激情中文在线 | 日韩1级片| 国产免费大片 | 久久黄色片 | 国产精品麻豆视频 | 人人超碰人人 | 免费激情网 | 日韩高清 一区 | 婷婷福利影院 | 午夜电影 电影 | 丁香视频 | 伊人婷婷 | av电影 一区二区 | 免费av大片| 99re视频在线观看 | 成人午夜剧场在线观看 | 狠狠综合久久av | 国产不卡在线观看视频 | 超碰在线免费福利 | 久久综合偷偷噜噜噜色 | 狠狠色丁香婷婷综合久小说久 | 国产精品日韩在线播放 | 97在线观视频免费观看 | 91精品久久久久久久91蜜桃 | 国产亚洲精品久久久久久网站 | 人人澡av| 久久精品亚洲一区二区三区观看模式 | 欧美一级日韩免费不卡 | 在线成人高清电影 | 日韩免费观看一区二区 | 亚洲精品视频在线观看视频 | 六月色婷 | 奇米网8888| 欧美黑人性爽 | 蜜臀aⅴ国产精品久久久国产 | 一区二区三区高清 | 视频在线播放国产 | 久久激情久久 | 精品在线观看国产 | 欧美日本不卡高清 | 久草在线免费色站 | 久草干| 国产精品视频大全 | 人人澡人人爱 | 欧美一级在线观看视频 | 天天躁天天操 | 婷婷色狠狠 | 亚洲国产mv | 91高清免费看 | 日日操日日 | 国产夫妻av在线 | 国产成人精品一区二 | 中文字幕在线观看免费 | 一区中文字幕在线观看 | 色亚洲激情 | 亚洲清纯国产 | 中文字幕在线观看完整版电影 | 亚洲japanese制服美女 | 成人黄大片 | 日日爱网站 | 91欧美视频网站 | 欧美一区二区免费在线观看 | 欧美巨大荫蒂茸毛毛人妖 | 草久视频在线 | 国产亚洲精品久久久久久网站 | 婷婷丁香激情 | 国产黄色美女 | 国产精品乱码在线 | 黄色一级在线免费观看 | www免费看片com| 在线观看第一页 | www.com.日本一级 | 99精品视频免费在线观看 | 国产一区视频在线 | 亚洲精品自在在线观看 | 黄色网www | 午夜av免费| 在线a亚洲视频播放在线观看 | 日韩av一区二区三区四区 | 成人免费在线网 | 色婷婷在线观看视频 | 国产一级做a爱片久久毛片a | 91成人精品观看 | 国产视频一区二区三区在线 | 亚洲精品看片 | 日韩成人免费在线观看 | 999久久久免费视频 午夜国产在线观看 | 亚洲国内精品 | 玖玖在线看 | 激情一区二区三区欧美 | 91漂亮少妇露脸在线播放 | 在线观看视频色 | 日韩激情影院 | 亚洲精品综合在线观看 | 国产九色视频在线观看 | 成人免费视频a | 国产在线精品区 | 99久久精品国产免费看不卡 | 黄色app网站在线观看 | a级国产乱理论片在线观看 伊人宗合网 | 精品字幕 | 中字幕视频在线永久在线观看免费 | 狠狠躁夜夜a产精品视频 | 亚洲精欧美一区二区精品 | 色婷婷久久久综合中文字幕 | 在线观看国产日韩欧美 | 少妇精品久久久一区二区免费 | 国产一区不卡在线 | 在线免费黄 | 人人干人人超 | 最近中文字幕久久 | 一级片视频在线 | 亚洲一区精品二人人爽久久 | 日韩在观看线 | .国产精品成人自产拍在线观看6 | 99色婷婷 | 亚洲精品人人 | 天天拍天天色 | 麻豆影视网| 99这里只有久久精品视频 | 毛片网站在线 | 国产精品一区二区三区在线播放 | 国产精品久久久久久久久久久免费 | 黄色一级动作片 | 一级电影免费在线观看 | 香蕉免费在线 | 免费一级特黄录像 | 久久老司机精品视频 | 成人蜜桃 | 久久国产精品久久w女人spa | 成年人黄色大全 | 国产999精品 | 久久久人人人 | 色射爱| 成人永久免费 | www.福利视频 | 少妇精品久久久一区二区免费 | 亚洲精品在线电影 | 亚洲精品国产自产拍在线观看 | 国产91粉嫩白浆在线观看 | 国产精品黄色 | 国产精品欧美一区二区 | 字幕网av| 亚洲欧美激情插 | 欧美日韩国产伦理 | 永久免费精品视频网站 | 久久久精品影视 | 国产精品美女久久久久久久 | 波多野结衣在线观看一区二区三区 | 日韩试看 | 日韩电影一区二区在线观看 | 久久久久久久久久久成人 | 国产黄色精品在线 | 免费观看xxxx9999片 | 天天天干天天天操 | 久久久久高清 | 在线日韩一区 | 久久国产精品99久久久久久老狼 | 久久免费精彩视频 | 欧洲精品在线视频 | 看片网站黄 | 色噜噜噜 | 亚洲视频在线免费看 | 男女视频久久久 | 国产午夜麻豆影院在线观看 | 欧美一二三区在线观看 | 亚洲高清视频在线 | 亚洲区视频在线 | 99在线精品视频在线观看 | 在线观看中文字幕一区 | 狠狠操综合| 五月开心网 | 亚洲精品动漫在线 | 日韩在线一级 | 国产黄色高清 | 日韩高清在线看 | 久久五月婷婷丁香社区 | 日韩理论片在线 | 69av视频在线 | 欧美日韩精品在线观看 | 日韩精品视频网站 | 999视频在线播放 | 日本在线观看一区 | 日韩欧美69 | 91最新地址永久入口 | 久久国产一区二区 | 精品久久久久久久久中文字幕 | 欧美少妇xxx | 在线观看视频免费大全 | 亚洲涩涩一区 | 国产精品久久艹 | av在线免费在线观看 | 青草视频在线看 | 我要看黄色一级片 | 黄色大片中国 | 久久尤物电影视频在线观看 | 91成人精品一区在线播放69 | 日韩特黄一级欧美毛片特黄 | 亚洲欧美国产精品 | 欧美性黑人 | 欧美日韩久久久 | 国产 日韩 中文字幕 | 色综合天天色综合 | 日韩aa视频| 色视频在线免费 | 黄色在线看网站 | 综合黄色网 | 国产黄色看片 | 国产精品av免费 | 亚洲色图色 | 高清视频一区二区三区 | 亚洲播放一区 | 国产区av在线 | 国产亚洲精品久久久久秋 | 日韩欧美高清一区二区 | 成人免费网站视频 | 久久中文精品视频 | 国产二区av| 精品视频免费观看 | 久久精品日产第一区二区三区乱码 | 日韩区欧美久久久无人区 | aaawww| 综合天堂av久久久久久久 | 国产在线不卡精品 | 岛国片在线| 久久免费大片 | 99视频在线免费播放 | 少妇性aaaaaaaaa视频 | 亚洲视频在线免费看 | 久久国产电影 | 二区三区中文字幕 | 日韩中文字幕免费电影 | 激情综合网色播五月 | 久操视频在线播放 | 丁香婷婷综合激情五月色 | 玖玖999| 天堂av在线免费 | 久久精品中文字幕少妇 | 亚洲综合色丁香婷婷六月图片 | 国产精品s色| 九色琪琪久久综合网天天 | 色网站黄 | 国产成人l区| 国产一性一爱一乱一交 | 亚洲精品网页 | 中文字幕高清 | 日韩福利在线观看 | 一级久久精品 | 一区二区精品在线观看 | 在线观看精品黄av片免费 | 91香蕉视频在线 | 欧美国产三区 | 欧美视频99| 久久亚洲私人国产精品 | 国产高清精 | 91亚洲精品久久久蜜桃网站 | 国产成人精品三级 | 丁香5月婷婷久久 | 97香蕉超级碰碰久久免费软件 | 最新av中文字幕 | 亚洲网站在线 | 亚洲狠狠| 韩国av一区二区 | 欧美在线观看视频一区二区三区 | 五月婷婷狠狠 | 国产原创在线视频 | 日韩精品在线播放 | 99精品偷拍视频一区二区三区 | 天天操天天操天天操天天操天天操 | 91久久久国产精品 | 最新av在线网站 | 香蕉视频导航 | 热久久免费国产视频 | 免费av在线播放 | 岛国片在线 | 国产精品国产三级国产专区53 | 九九综合久久 | 黄色成人91 | 亚洲理论电影网 | 五月婷婷久久综合 | 国产精品资源在线观看 | 91精品国产99久久久久久久 | 国产精品一区二区久久国产 | 国产精品久久99综合免费观看尤物 | 激情文学综合丁香 | 日本最新一区二区三区 | 国产又粗又硬又爽的视频 | 日本黄色片一区二区 | 国产.精品.日韩.另类.中文.在线.播放 | 亚洲1区在线 | 久久久久| 日韩免费观看高清 | 国产在线日韩 | 欧美日韩视频网站 | 成人一级片视频 | 天天射天天干天天 | 91麻豆精品国产91 | 5月丁香婷婷综合 | 精品国产乱码久久久久久浪潮 | 日韩精品一区二区在线观看 | 91成年人网站 | 亚洲欧美一区二区三区孕妇写真 | 日韩精品一卡 | 麻豆成人精品视频 | 中文字幕 在线看 | 中文久草 | 99av在线视频 | 久青草视频在线观看 | 99爱在线观看| bbb搡bbb爽爽爽 | 最近更新好看的中文字幕 | 91桃色视频| 欧美日韩1区 | 精品一区二区三区电影 | 免费视频久久久久久久 | 成人v| 在线观看免费视频 | 日韩免费观看一区二区 | 国产在线欧美 | 久久精品亚洲一区二区三区观看模式 | 国产精品入口麻豆 | 99久久精品免费看国产一区二区三区 | 五月天婷婷在线视频 | 在线看片一区 | 视频二区在线 | 麻豆影视在线观看 | 午夜av在线 | 亚洲免费观看视频 | 最新国产福利 | 天天天在线综合网 | 亚洲视频综合 | 久草在线资源免费 | 久久久久夜色 | 特片网久久| 免费网站观看www在线观看 | 在线中文字幕视频 | 欧美性生爱 | 日韩av电影免费观看 | 亚洲一区在线看 | 精品伊人久久久 | 超碰免费在线公开 | 日韩精品中文字幕在线播放 | 亚洲精品系列 | 亚洲国产成人精品电影在线观看 | 在线精品视频免费播放 | 98超碰人人 | www.天天色 | a黄色| 日韩久久在线 | av免费看av| 久久综合五月 | 玖玖爱国产在线 | 国内精品久久久久影院一蜜桃 | 在线免费成人 | 天天躁日日躁狠狠躁 | 粉嫩av一区二区三区四区在线观看 | 欧美日韩在线免费观看视频 | 国产精品久久久久久五月尺 | 日本h视频在线观看 | 国产精品久久久久999 | 人成在线免费视频 | 欧美aⅴ在线观看 | 国产视频不卡一区 | 男女视频久久久 | 久艹在线免费观看 | 中文字幕av在线播放 | 91爱看片 | 欧美午夜理伦三级在线观看 | 五月天高清欧美mv | 91av在线不卡 | 久草视频在线资源站 | 99色国产 | 久久久精品99 | 久久综合九色综合久99 | 久久久久久久久久久影院 | 欧美电影黄色 | 国产又粗又硬又爽视频 | 18+视频网站链接 | 欧美日韩高清免费 | 国产黄色精品网站 | 欧美污污视频 | 99精品在线观看视频 | 国产免费又粗又猛又爽 | 成年人免费电影 | www.夜夜操 | 蜜臀av性久久久久蜜臀aⅴ四虎 | 黄色一级大片在线免费看产 | 狠狠激情中文字幕 | 欧美一区,二区 | 亚洲精品一区二区精华 | 人人狠| 午夜私人影院 | 亚州免费视频 | 色婷婷久久久 | 五月天天av | 欧美日韩电影在线播放 | 久久精品久久精品久久 | 色香蕉网 | 亚洲精品中文在线 | 欧美久久影院 | 国产高清在线免费 | 在线国产精品视频 | 精品一区免费 | 日本一区二区三区免费看 | 免费看v片网站 | 成人av在线直播 | 九色自拍视频 | 欧美国产不卡 | 啪一啪在线 | 久久久久北条麻妃免费看 | 国产综合精品一区二区三区 | 99re亚洲国产精品 | 丁香5月婷婷| 9i看片成人免费看片 | 久久精品国产免费观看 | 开心激情婷婷 | 亚洲 欧洲 国产 日本 综合 | 国产精选在线观看 | 一区二区精品在线观看 | 国产成在线观看免费视频 | 97天堂网 | 在线亚洲成人 | 亚洲欧美少妇 | 亚洲欧美国产精品 | 中文字幕999| 最新日韩视频在线观看 | 日韩精品不卡在线观看 | 国产亚洲精品久久久久久久久久久久 | 欧美一区二区免费在线观看 | 黄色字幕网 | 免费97视频| 久久久久夜色 | 成人国产精品入口 | 免费视频三区 | 一区二区不卡在线观看 | 日韩综合一区二区三区 | 成人高清在线观看 | 日韩性片 | 狠狠地操 | 欧美精品色 | 国产成人黄色 | 精品视频成人 | 久久人人添人人爽添人人88v | 国产二区免费视频 | 中文国产在线观看 | 91超在线| 天天摸天天弄 | 国产传媒一区在线 | 天天操天天干天天综合网 | 中文字幕乱码亚洲精品一区 | 欧美一级特黄aaaaaa大片在线观看 | 精品久久久久久久久久国产 | 婷婷成人在线 | 日日日爽爽爽 | 欧美一区二区三区在线视频观看 | 久久av在线 | av网站大全免费 | 成人h视频在线播放 | 91麻豆精品国产91久久久更新时间 | 中文字幕在线观看日本 | 五月婷婷久 | 亚洲国产精品电影 | 天堂在线v| 日本精品视频免费观看 | 亚洲全部视频 | 又黄又刺激视频 | 免费国产一区二区 | 成人高清在线观看 | 99热这里只有精品在线观看 | 日本精品一二区 | 天天操 夜夜操 | 日韩三级一区 | 日韩精品一区二区三区三炮视频 | 91麻豆免费视频 | 亚洲黄色小说网 | 四虎最新域名 | 日韩av不卡播放 | 国产高清av在线播放 | 五月天综合网站 | 一级特黄aaa大片在线观看 | 狠狠狠色丁香婷婷综合久久五月 | 欧美一级xxxx | 麻豆免费在线播放 | 色婷婷激情四射 | 欧美精品成人在线 | 在线探花 | 国产中文字幕在线 | www免费黄色 | 91精品视频在线观看免费 | 久久不射电影网 | 人人干免费 | 欧美精品久久99 | 久久精品一区二区国产 | 日韩特黄av | 日日日天天天 | 亚洲欧美国产日韩在线观看 | 黄色三级视频片 | 免费看的黄色网 | 一区在线播放 | 日韩黄色免费 | 日韩一区二区三区免费电影 | 日韩一二区在线 |