日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當(dāng)前位置: 首頁 >

使用lvs搭建负载均衡集群

發(fā)布時間:2025/3/20 28 豆豆
生活随笔 收集整理的這篇文章主要介紹了 使用lvs搭建负载均衡集群 小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.

? 有時候,單臺服務(wù)器的性能可能無法應(yīng)付大規(guī)模的服務(wù)請求,且其一旦出現(xiàn)故障,就會造成用戶在一段時間內(nèi)無法訪問。通過集群技術(shù),可以在付出較低成本的情況下獲得在性能、可靠性、靈活性方面的相對較高的收益。

? 集群是一組相互獨(dú)立的、通過網(wǎng)絡(luò)互聯(lián)的計(jì)算機(jī)組,并以單一系統(tǒng)的模式加以管理,或用于分?jǐn)傌?fù)載,或用于增強(qiáng)可靠性,或用于高速計(jì)算。


一、集群類型

? ?LB:Load Balancing,負(fù)載均衡集群,用于消除單點(diǎn)故障,當(dāng)一個節(jié)點(diǎn)出現(xiàn)故障而無法正常提供服務(wù)時,自動、快速地切換到另外的節(jié)點(diǎn)上去;常見軟件或?qū)崿F(xiàn)方式有l(wèi)vs, haproxy, nginx

? ?HA:High Availability,高可用集群,將客戶端的請求遵從恰當(dāng)?shù)呢?fù)載均衡原則分配給各節(jié)點(diǎn)的集群;heartbeat, corosync+pacemaker, cman+rgmanager, cman + pacemaker, keepalived

? ?HPC:High Performance Computing,高性能計(jì)算集群;hadoop


二、lvs工作原理

? ?lvs由?ipvsadm/ipvs 這兩段代碼組成,ipvsadm是工作于用戶空間的程序,用于編寫規(guī)則(定義集群服務(wù)、調(diào)度標(biāo)準(zhǔn),指明有哪些后端服務(wù)器等)并送給ipvs;ipvs是集成于內(nèi)核中的真正實(shí)現(xiàn)調(diào)度功能的代碼,工作于netfilter的INPUT鏈上,它會根據(jù)指定的調(diào)度標(biāo)準(zhǔn)確定將匹配的請求報(bào)文調(diào)度到哪臺后端服務(wù)器,然后對請求報(bào)文做一定處理(或修改目標(biāo)ip、或修改目標(biāo)MAC等)并轉(zhuǎn)到POSTROUTING鏈上發(fā)往相應(yīng)的后端服務(wù)器


三、lvs相關(guān)術(shù)語

? ?director:調(diào)度器,即提供ipvsadm/ipvs,直接面向客戶端請求,實(shí)現(xiàn)調(diào)度功能的主機(jī)

? ?real server:后端真實(shí)服務(wù)器,即真正處理客戶端請求的服務(wù)器

? ?CIP:client ip

? ?VIP:virtual ip,客戶端請求的目標(biāo)ip,要配置在director上

? ?DIP:director ip

? ?RIP:real server ip


四、lvs的類型

? 1、lvs-nat

? ?

? ? 這種模型中,響應(yīng)報(bào)文會經(jīng)由director轉(zhuǎn)發(fā)回client,因此real server和director要位于同一子網(wǎng)中且real server的網(wǎng)關(guān)必須指向director,director會對請求報(bào)文和響應(yīng)報(bào)文分別做DNAT(目標(biāo)地址轉(zhuǎn)換)和SNAT(源地址轉(zhuǎn)換)。

? ? nat類型的特性:

? ? ? ①RS可使用私有地址來隱藏服務(wù)器;RS的網(wǎng)關(guān)必須指向DIP

? ? ? ②請求和響應(yīng)都要經(jīng)過Director,因此在高負(fù)載場景中,Director易成為性能瓶頸;

? ? ? ③支持端口映射

? ? ? ④RS可以使用任意OS;


? 2、lvs-dr

? ? 這種模型中,響應(yīng)報(bào)文不會流經(jīng)director,而是直接響應(yīng)給client,因此在real server上必須也配置VIP,且要將其隱藏,即不允許通告和響應(yīng)arp解析請求,否則請求報(bào)文可能不經(jīng)director而直接到達(dá)real server;director不能給請求報(bào)文做IP地址轉(zhuǎn)換,只能修改其目標(biāo)MAC地址以將其送往real server,因此,要求director和real server在同一物理網(wǎng)絡(luò)中。

? ? dr類型的特性:

? ? ? ⑴保證前端路由將目標(biāo)地址為VIP的報(bào)文統(tǒng)統(tǒng)發(fā)往Directory,而不能是RS;

? ? ? ? ?解決方案:

? ? ? ? ? ?①靜態(tài)地址綁定:在前端路由器上操作(問題:未必有路由操作權(quán)限)

? ? ? ? ? ?②aprtables

? ? ? ? ? ?③修改RS上內(nèi)核參數(shù),將RS上的VIP配置在lo接口的別名上,并限制其不能響應(yīng)對VIP地址解析請求;

? ? ? ⑵RS可以使用私有地址;也可以使用公網(wǎng)地址,此時可通過互聯(lián)網(wǎng)通過RIP對其直接訪問;

? ? ? ⑶RS跟Directory必須在同一物理網(wǎng)絡(luò)中

? ? ? ⑷請求報(bào)文經(jīng)由Director,但響應(yīng)報(bào)文不經(jīng)過Director,因此相比NAT模型,Director負(fù)荷大大減小。

? ? ? ⑸不支持端口映射

? ? ? ⑹RS可以是大多數(shù)常見的OS;

? ? ? ⑺RS的網(wǎng)關(guān)絕不允許指向DIP

? ? ? ⑻缺點(diǎn):RS上綁定vip,風(fēng)險(xiǎn)大


? ? lvs-dr的配置:

? ? ? ⑴RS上首先配置內(nèi)核參數(shù): ? ? ? ??

? ? ? ? ?echo 1 > /proc/sys/net/ipv4/conf/lo/arp_ignore

? ? ? ? ?echo 2 > /proc/sys/net/ipv4/conf/lo/arp_announce

? ? ? ? ?echo 1 > /proc/sys/net/ipv4/conf/all/arp_ignore

? ? ? ? ?echo 2 > /proc/sys/net/ipv4/conf/all/arp_announce

? ? ? ? ?說明:

? ? ? ? ? ?arp_ignore:如何響應(yīng)接收到的ARP請求;默認(rèn)為0,表示只要本機(jī)有,就響應(yīng);1表示僅當(dāng)請求解析的IP地址為接收請求報(bào)文的端口地址時才進(jìn)行響應(yīng)

? ? ? ? ? ?arp_annouce:如何通告本機(jī)地址;默認(rèn)為0,通告本機(jī)所有接口地址,2表示僅通告網(wǎng)絡(luò)直連的接口的地址

? ? ? ? ?這一步的作用在于禁止通告VIP和響應(yīng)對VIP的ARP解析請求

? ? ? ⑵然后在RS上配置VIP:

? ? ? ? ?ifconfig lo:0 VIP netmask 255.255.255.255 broadcast VIP up

? ? ? ? ?route add -host VIP dev lo:0 ?#請求報(bào)文本來是物理接口eth#接收的,需要添加一條使請求報(bào)文到達(dá)VIP所在接口(VIP通常配置在lo:0上)的路由,這樣響應(yīng)報(bào)文的源地址才能是VIP。


? 3、lvs-tun

? ? lvs-tun不同于lvs-dr的地方在于它允許director和real server在不同的網(wǎng)絡(luò)中,這是通過隧道機(jī)制實(shí)現(xiàn)的。在這種模型中,director會在請求報(bào)文原有IP首部之外再封裝一層首部,這樣,請求報(bào)文的IP首部就變成:內(nèi)層IP首部(源地址:CIP,目標(biāo)地址:VIP),外層IP首部(源地址:DIP,目標(biāo)地址:RIP)。real server收到報(bào)文后,先將報(bào)文解封獲得原來目標(biāo)地址為VIP的報(bào)文,發(fā)現(xiàn)VIP地址被配置在本地的IP隧道設(shè)備上,所以就處理這個請求,然后根據(jù)路由表將響應(yīng)報(bào)文直接返回給客戶。


? ? tun類型的特性:

? ? ?①RIP、VIP、DIP全部是公網(wǎng)地址;

? ? ?②RS的網(wǎng)關(guān)不會也不可能指向DIP;

? ? ?③請求報(bào)文經(jīng)由Director,但響應(yīng)報(bào)文必須不能經(jīng)過Director;

? ? ?④不支持端口映射;

? ? ?⑤RS的OS必須支持隧道功能,一般需安裝隧道網(wǎng)卡;

? ? ?⑥由于該模型允許Director和RS不在同一物理網(wǎng)絡(luò)中,因此常用于異地容災(zāi)的場景中

? ? lvs-tun的配置可參考http://www.linuxidc.com/Linux/2012-09/71340p3.htm


? 4、lvs-fullnat

? ? 同時修改請求報(bào)文的源地址和目標(biāo)地址(CIP--VIP ==> DIP--RIP);實(shí)現(xiàn)director和RS之間跨子網(wǎng)通信,并且in/out流都會經(jīng)過director;支持端口映射。

? ? fullnat模式?jīng)]有被整合進(jìn)linux內(nèi)核,若要使用需要向內(nèi)核打補(bǔ)丁,并且不被ipvsadm支持,不過可以使用keepalive生成規(guī)則。


四、lvs調(diào)度方法

? ?grep -i 'VS' /boot/config-VERSION

? ⑴靜態(tài)方法:僅根據(jù)調(diào)度算法本身進(jìn)行調(diào)度 ??

? ? ?rr: round robin,輪流,輪詢,輪叫

? ? ?wrr: weighted round robin, 加權(quán)輪詢

? ? ?sh: source hashing,源地址hash,表示將來源于同一個CIP的請求始終定向至同一個RS;SESSION保持;

? ? ?dh: destination hashing, 目標(biāo)地址hash,后端一般為緩存服務(wù)器,可提高緩存命中率

? ⑵動態(tài)方法:根據(jù)算法及各RS當(dāng)前的負(fù)載狀況進(jìn)行調(diào)度

? ? ?lc: least connection,最少連接

? ? ? ? Overhead=Active*256+Inactive ?#overhead值越小越優(yōu)先被選中,若overhead值一樣,則根據(jù)real server列表自上而下挑選

? ? ?wlc: weighted lc,默認(rèn)調(diào)度方法

? ? ? ? Overhead=(Active*256+Inactive)/weight

? ? ?sed: shortest expection delay;

? ? ? ? wlc有個缺點(diǎn),就是當(dāng)overhead值相同時,權(quán)重小的若在列表中靠前則會被優(yōu)先選擇,當(dāng)請求量只有一個或很少時,這種調(diào)度不合適,而sed調(diào)度的主要目的在于讓權(quán)重大的優(yōu)先接受請求

? ? ? ? Overhead=(Active+1)*256/weight

? ? ?nq: Never Queue,先按權(quán)重輪詢一圈,然后依照sed的overhead值選擇

? ? ?lblc: Locality-Based Least Connection,動態(tài)版dh

? ? ?lblcr:Replicated lblc


五、使用ipvsadm配置director

? ?yum -y install ipvsadm

? ⑴定義一個集群服務(wù)

? ? ? ipvsadm -A|E -t|u|f service-address [-s scheduler]?

? ? ? ? -A: 添加

? ? ? ? -E: 修改 ? ? ?

? ? ? ? -f: firewall mark


? ? ? ? -t: 說明提供的是TCP服務(wù)

? ? ? ? -u: 說明提供的是UDP服務(wù)

? ? ? ? -f: 說明是經(jīng)過iptables標(biāo)記過的服務(wù)類型


? ? ? ? service-address:

? ? ? ? ? -t|u: VIP:Port

? ? ? ? ? -f: #

? ? ? 例如:ipvsadm -A -t 172.16.100.7:80 -s wlc

? ⑵向一個已經(jīng)存在集群服務(wù)添加一個RS

? ? ? ipvsadm -a|e -t|u|f service-address -r server-address [options]

? ? ? ? -a: 添加RS記錄

? ? ? ? -e: 修改RS記錄

? ? ? ? options:

? ? ? ? ? -w weight

? ? ? ? ? -g, --gatewaying: 指定lvs工作模式為DR模式,缺省模式

? ? ? ? ? -i, --ipip: ipip encapsulation (tunneling)

? ? ? ? ? -m, --masquerading: masquerading (NAT)

? ? ??例如:ipvsadm -a -t 172.16.100.7:80 -r 10.0.0.8 -m -w 2

? ⑶查看已經(jīng)定義的集群服務(wù)及RS:

? ? ? ipvsadm -L -n

? ? ? ? -c: 查看各連接

? ? ? ? --stats: 統(tǒng)計(jì)數(shù)據(jù)

? ? ? ? --rate: 速率

? ? ? ? --exact: 精確值

? ⑷從集群服務(wù)中刪除RS:ipvsadm -d -t|u|f service-address -r server-address

? ⑸刪除集群服務(wù):ipvsadm -D -t|u|f service-address

? ⑹清空所有的集群服務(wù):ipvsadm -C

? ⑺保存集群服務(wù)定義:

? ? ? ipvsadm -S > /path/to/some_rule_file

? ? ? ipvsadm-save > /path/to/some_rule_file

? ? ? service ipvsadm save ?#該命令會將規(guī)則保存于/etc/sysconfig/ipvsadm中

? ⑻讓規(guī)則文件中的規(guī)則生效:

? ? ? ipvsadm -R < /path/from/some_rule_file

? ? ? ipvsadm-restore < /path/from/some_rule_file

? ? ? ? 可將該命令寫入/etc/rc.d/rc.local中,這樣開機(jī)啟動時就自動導(dǎo)入了

? ? ? service ipvsadm start ?#以服務(wù)的方式啟動ipvsadm,它會從/etc/sysconfig/ipvsadm中讀取定義的集群服務(wù)規(guī)則

? ⑼基于防火墻標(biāo)記定義集群服務(wù)

? ? ? 功能:將同屬于同一組應(yīng)用的多個不同端口的服務(wù)定義成一個集群服務(wù),統(tǒng)一調(diào)度;例如http和https

? ? ? 結(jié)合netfilter來實(shí)現(xiàn)一種集群服務(wù)定義機(jī)制;

? ? ? ? ①在mangle表的PREROUTING鏈定義規(guī)則,實(shí)現(xiàn)指定防火墻標(biāo)記;

? ? ? ? ? ?iptables -t mangle -A PREROUTING -d VIP -p {tcp|udp} --dport PORT -j MARK --set-mark #

? ? ? ? ②基于此前的標(biāo)記定義集群服務(wù);

? ? ? ? ? ?ipvsadm -A -f # [-s METHOD]

? ? ? ? ? ?ipvsadm -a -f # -r RS [options]

? ? ? ? 例如:

? ? ? ? ? ?iptables -t mangle -A PREROUTING -d 192.168.30.13 -p tcp -m multiport --dports 80,443 -j MARK --set-mark 2

? ? ? ? ? ?ipvsadm -A -f 2 -s wlc

? ? ? ? ? ?ipvsadm -a -f 2 -r 172.16.100.2 -g -w 3

??⑽lvs持久連接功能

? ? ? 無論使用什么調(diào)度方法,持久連接功能都能保證在指定的一段時間內(nèi),來自同一個客戶端的請求始終被定向至同一個RS。當(dāng)使用LVS持久連接時,調(diào)度器使用連接跟蹤(持久連接模板)來記錄每一個客戶端和給其分配的real server的映射關(guān)系

? ? ? -p, --persistent [timeout]使用持久連接,默認(rèn)時長為300秒

? ? ? 持久連接類型: ? ? ? ?

? ? ? ? ①PCC(persistent client connections):持久客戶端連接,又稱零端口連接

? ? ? ? ? ?在基于tcp或udp定義集群服務(wù)時,將來自于同一個客戶端對所有端口的請求,始終定向至此前選定的RS;以0作為端口號

? ? ? ? ? ?例:ipvsadm -A -t 172.16.100.7:0 -s rr -p

? ? ? ? ②PPC(persistent port connections):持久端口連接,將對同一端口的請求,始終定向至此前選定的RS;單服務(wù)調(diào)度;各集群服務(wù)分開調(diào)度

? ? ? ? ? ?例:ipvsadm -A -t 172.16.100.7:21 -s rr -p

? ? ? ? ③PFMC(persistent firewall mark connections):持久防火墻標(biāo)記連接 ? ? ? ? ?

? ? ? ? ? ?iptables -t mangle -A PREROUTING -d 192.168.30.13 -p tcp -m multiport --dports 80,443 -j MARK --set-mark 2

? ? ? ? ? ?ipvsadm -A -f 2 -s wlc -p 600

? ? ? -M, --netmask [NETMASK] 選項(xiàng):

? ? ? ??配合persistence_timeout使用,表示持久連接的粒度,默認(rèn)是255.255.255.255,即單獨(dú)的客戶端IP。如果改成255.255.255.0,則表示只要是一個網(wǎng)段的client都會被分配到同一臺后端服務(wù)器上


六、配置示例

? 注意:lvs-nat模型中,director需要開啟報(bào)文轉(zhuǎn)發(fā)功能,而lvs-dr模型中則不需要

? 1、配置lvs-nat

? ? ?以下示例中,我們以node3為director,以node3上的兩個容器centos2和centos3(容器的創(chuàng)建詳見博客http://9124573.blog.51cto.com/9114573/1761114)作為real server,node1作為客戶端

? ? ?VIP:192.168.30.13?

? ? ?DIP:172.16.100.1

? ? ?RIP1:172.16.100.2

? ? ?RIP2:172.16.100.3

#首先啟動容器,并保證其httpd服務(wù)正常運(yùn)行 [root@node3?~]#?lxc-start?-n?centos2?-d [root@node3?~]#?lxc-start?-n?centos3?-d [root@node3?~]#?ssh?root@172.16.100.2 root@172.16.100.2's?password:? Last?login:?Wed?Apr??6?13:31:11?2016 [root@centos2?~]#?service?httpd?start Starting?httpd:?httpd:???????????????????????????????????????????[??OK??] [root@centos2?~]#?ss?-tnl State???????Recv-Q?Send-Q????????????????????????Local?Address:Port??????????????????????Peer?Address:Port? LISTEN??????0??????0?????????????????????????????*:22????????????????????????????????????*:*????? LISTEN??????0??????0?????????????????????????????:::22???????????????????????????????????:::*????? LISTEN??????0??????0?????????????????????????????:::80???????????????????????????????????:::* [root@centos2?~]#?logout Connection?to?172.16.100.2?closed. [root@node3?~]#?ssh?root@172.16.100.3 root@172.16.100.3's?password:? Last?login:?Wed?Apr??6?13:31:38?2016 [root@centos3?~]#?service?httpd?start Starting?httpd:?httpd:???????????????????????????????????????????[??OK??] [root@centos3?~]#?logout Connection?to?172.16.100.3?closed.[root@node3?~]#?yum?-y?install?ipvsadm ... Installed:ipvsadm.x86_64?0:1.26-4.el6??????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????Complete! [root@node3?~]#?rpm?-ql?ipvsadm /etc/rc.d/init.d/ipvsadm???#ipvsadm也有服務(wù)腳本 /etc/sysconfig/ipvsadm-config /sbin/ipvsadm /sbin/ipvsadm-restore /sbin/ipvsadm-save /usr/share/doc/ipvsadm-1.26 /usr/share/doc/ipvsadm-1.26/README /usr/share/man/man8/ipvsadm-restore.8.gz /usr/share/man/man8/ipvsadm-save.8.gz /usr/share/man/man8/ipvsadm.8.gz[root@node3?~]#?ipvsadm?-A?-t?192.168.30.13:80?-s?rr???#定義一個集群服務(wù),采用輪循調(diào)度 [root@node3?~]#?ipvsadm?-a?-t?192.168.30.13:80?-r?172.16.100.2?-m???#添加real?server [root@node3?~]#?ipvsadm?-a?-t?192.168.30.13:80?-r?172.16.100.3?-m [root@node3?~]#?ipvsadm?-L?-n???#查看定義的集群服務(wù)及RS IP?Virtual?Server?version?1.2.1?(size=4096) Prot?LocalAddress:Port?Scheduler?Flags->?RemoteAddress:Port???????????Forward?Weight?ActiveConn?InActConn TCP??192.168.30.13:80?rr->?172.16.100.2:80??????????????Masq????1??????0??????????0?????????->?172.16.100.3:80??????????????Masq????1??????0??????????0 [root@node3?~]#?cat?/proc/sys/net/ipv4/ip_forward???#確保開啟報(bào)文轉(zhuǎn)發(fā)功能 1 [root@node3?~]#?iptables?-L?-n???#確保已開放集群服務(wù)端口 Chain?INPUT?(policy?DROP) target?????prot?opt?source???????????????destination????????? ACCEPT?????all??--??0.0.0.0/0????????????0.0.0.0/0???????????state?ESTABLISHED? ACCEPT?????tcp??--??0.0.0.0/0????????????192.168.30.13???????tcp?dpt:22?state?NEW? ACCEPT?????tcp??--??0.0.0.0/0????????????172.16.100.1????????tcp?dpt:22?state?NEW? ACCEPT?????tcp??--??0.0.0.0/0????????????192.168.30.13???????tcp?dpt:80?state?NEW?Chain?FORWARD?(policy?ACCEPT) target?????prot?opt?source???????????????destination?????????Chain?OUTPUT?(policy?ACCEPT) target?????prot?opt?source???????????????destination#這里為演示負(fù)載均衡的效果,刻意讓后端兩個RS上的網(wǎng)頁內(nèi)容不同,實(shí)際環(huán)境是當(dāng)然是相同的 [root@node1?~]#?curl?192.168.30.13 hello [root@node1?~]#?curl?192.168.30.13 how?are?you [root@node1?~]#?curl?192.168.30.13 hello [root@node1?~]#?curl?192.168.30.13 how?are?you[root@node3?~]#?ipvsadm?-L?-n?-c IPVS?connection?entries pro?expire?state???????source?????????????virtual????????????destination TCP?01:17??TIME_WAIT???192.168.30.10:38368?192.168.30.13:80???172.16.100.2:80 TCP?01:17??TIME_WAIT???192.168.30.10:38369?192.168.30.13:80???172.16.100.3:80 TCP?01:15??TIME_WAIT???192.168.30.10:38367?192.168.30.13:80???172.16.100.3:80 TCP?01:14??TIME_WAIT???192.168.30.10:38366?192.168.30.13:80???172.16.100.2:80 [root@node3?~]#?ipvsadm-save?>?/tmp/lvs???#將定義的規(guī)則保存至某個文件中 [root@node3?~]#?ipvsadm?-D?-t?192.168.30.13:80???#刪除指定的集群服務(wù) [root@node3?~]#?ipvsadm?-L?-n IP?Virtual?Server?version?1.2.1?(size=4096) Prot?LocalAddress:Port?Scheduler?Flags->?RemoteAddress:Port???????????Forward?Weight?ActiveConn?InActConn [root@node3?~]#?ipvsadm-restore?<?/tmp/lvs [root@node3?~]#?ipvsadm?-L?-n IP?Virtual?Server?version?1.2.1?(size=4096) Prot?LocalAddress:Port?Scheduler?Flags->?RemoteAddress:Port???????????Forward?Weight?ActiveConn?InActConn TCP??192.168.30.13:80?rr->?172.16.100.2:80??????????????Masq????1??????0??????????0?????????->?172.16.100.3:80??????????????Masq????1??????0??????????0


? 2、配置lvs-dr

? ? ? 以下示例中,node1為客戶端,node3為director,node4和node5為real server,可將VIP配置于虛擬接口上,DIP與RIP要位于同一物理網(wǎng)絡(luò);

? ? ? DIP:192.168.30.13,eth0

? ? ? VIP:192.168.30.100,eth0:0

? ? ? RIP1:192.168.30.14

? ? ? RIP2:192.168.30.15

[root@node4?~]#?echo?1?>?/proc/sys/net/ipv4/conf/lo/arp_ignore [root@node4?~]#?echo?2?>?/proc/sys/net/ipv4/conf/lo/arp_announce [root@node4?~]#?echo?1?>?/proc/sys/net/ipv4/conf/all/arp_ignore [root@node4?~]#?echo?2?>?/proc/sys/net/ipv4/conf/all/arp_announce [root@node4?~]#?ifconfig?lo:0?192.168.30.100?netmask?255.255.255.255?broadcast?192.168.30.100?up [root@node4?~]#?route?add?-host?192.168.30.100?dev?lo:0 [root@node4?~]#?service?httpd?start Starting?httpd:?httpd:?apr_sockaddr_info_get()?failed?for?node5 httpd:?Could?not?reliably?determine?the?server's?fully?qualified?domain?name,?using?127.0.0.1?for?ServerName[??OK??] [root@node4?~]#?iptables?-F

? 再在node5的做相同配置,略

#在director上配置VIP,定義集群服務(wù),添加后端RS [root@node3?~]#?ifconfig?eth0:0?192.168.30.100/24?up???#配置VIP [root@node3?~]#?ifconfig eth0??????Link?encap:Ethernet??HWaddr?00:0C:29:CB:26:9B??inet?addr:192.168.30.13??Bcast:192.168.30.255??Mask:255.255.255.0inet6?addr:?fe80::20c:29ff:fecb:269b/64?Scope:LinkUP?BROADCAST?RUNNING?MULTICAST??MTU:1500??Metric:1RX?packets:28711?errors:0?dropped:0?overruns:0?frame:0TX?packets:9590?errors:0?dropped:0?overruns:0?carrier:0collisions:0?txqueuelen:1000?RX?bytes:4456933?(4.2?MiB)??TX?bytes:1970077?(1.8?MiB)eth0:0????Link?encap:Ethernet??HWaddr?00:0C:29:CB:26:9B??inet?addr:192.168.30.100??Bcast:192.168.30.255??Mask:255.255.255.0UP?BROADCAST?RUNNING?MULTICAST??MTU:1500??Metric:1 ... [root@node3?~]#?cat?/proc/sys/net/ipv4/ip_forward? 1 [root@node3?~]#?ipvsadm?-C [root@node3?~]#?iptables?-t?mangle?-A?PREROUTING?-d?192.168.30.100?-p?tcp?-m?multiport?--dports?80,243?-j?MARK?--set-mark?1 [root@node3?~]#?ipvsadm?-A?-f?1?-s?wlc???#基于防火墻定義集群服務(wù) [root@node3?~]#?ipvsadm?-a?-f?1?-r?192.168.30.14?-g?-w?2 [root@node3?~]#?ipvsadm?-a?-f?1?-r?192.168.30.15?-g?-w?1 [root@node3?~]#?iptables?-P?INPUT?ACCEPT

? 負(fù)載均衡效果測試:

[root@node1?~]#?curl?192.168.30.100 hello [root@node1?~]#?curl?192.168.30.100 hello [root@node1?~]#?curl?192.168.30.100 how?are?you

六、Session持久機(jī)制

? ①session綁定:始終將來自同一個源IP的請求定向至同一個RS;沒有容錯能力;有損均衡效果;

? ②session復(fù)制:在RS之間同步session,每個RS擁有集群中的所有的session;對大規(guī)模集群不適用;

? ③session服務(wù)器:利用單獨(dú)部署的服務(wù)器來統(tǒng)一管理集群中的session;


七、real server的健康狀態(tài)檢測

? ?lvs自身不具備后端RS健康狀態(tài)檢測功能,需要借助keepalived,keepalived不僅能為lvs提供高可用,還可以給lvs生成規(guī)則。 ??

? ?1、如何檢測RS的健康狀態(tài):

? ? ? ? 應(yīng)用層:利用集群服務(wù)依賴的協(xié)議進(jìn)行檢測

? ? ? ? 傳輸層:利用端口掃描或探測類工具對指定協(xié)議的端口進(jìn)行探測

? ? ? ? 網(wǎng)絡(luò)層:如ping

? ?2、處理措施:

? ? ?①自動上下線各RS; ? ??

? ? ? ? online --> fail,探測三次及以上;

? ? ? ? offline --> ok,一次即可;

? ? ?②所有RS均故障時,應(yīng)該提供一個back server;

? ? ? ? ipvsadm -a -t 192.168.30.13:80 -r 127.0.0.1 -m -w 0

轉(zhuǎn)載于:https://blog.51cto.com/9124573/1759997

總結(jié)

以上是生活随笔為你收集整理的使用lvs搭建负载均衡集群的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯,歡迎將生活随笔推薦給好友。

在线成人小视频 | 日本公妇色中文字幕 | 国内偷拍精品视频 | 黄av免费 | 天天干,天天操,天天射 | 韩日av一区二区 | 91av免费看 | 欧美日韩国产综合一区二区 | 天天干天天拍天天操天天拍 | www麻豆视频 | 国产中年夫妇高潮精品视频 | 亚洲 综合 国产 精品 | 国产99久久 | 欧美精品一级视频 | 九九精品在线观看 | 伊人欧美| 亚洲免费在线观看视频 | 青青看片 | 亚洲国产美女精品久久久久∴ | 91九色蝌蚪国产 | 欧美不卡在线 | 日产乱码一二三区别在线 | 月下香电影 | 国产精品欧美一区二区三区不卡 | 黄色成年片 | 国产无套精品久久久久久 | 久草网在线观看 | 西西4444www大胆无视频 | 亚洲视频在线观看免费 | 国产麻豆精品95视频 | 视频在线播放国产 | 天天拍天天色 | 91黄色在线观看 | 亚洲欧美成人综合 | a成人v在线 | 精品在线观看国产 | 久久99久久99| 欧美三人交 | 国内精品免费 | 国产精品美女视频网站 | 国产精品99久久久久人中文网介绍 | 成人欧美一区二区三区黑人麻豆 | 美女福利视频在线 | 亚洲欧美日韩精品一区二区 | 日韩91精品 | 婷婷干五月 | 黄色一级影院 | av中文在线观看 | 中文字幕日韩免费视频 | 在线免费日韩 | 一区二区三区四区久久 | 激情一区二区三区欧美 | 久久av一区二区三区亚洲 | 精品美女久久久久久免费 | 草久久久久 | 亚洲一级黄色av | 国产高清视频在线播放 | 国产精品网红直播 | 五月综合久久 | 国产一线二线三线性视频 | 在线观看日本韩国电影 | 综合久久婷婷 | 中国美女一级看片 | 久久99久久精品 | 久久国产精品色婷婷 | 国产一区二区三区黄 | 久久久久久美女 | 久久精品观看 | 欧美一区二区三区在线视频观看 | 999视频网| 国产精品婷婷午夜在线观看 | 亚洲视频第一页 | 久久国产精品网站 | 丁香婷婷深情五月亚洲 | 久久久久免费精品国产 | 91亚洲网站 | 97中文字幕 | 国产成人av免费在线观看 | 久久在线看 | 日韩在线中文字幕 | 国产精品久久久久永久免费观看 | 国产在线精品区 | 欧美色精品天天在线观看视频 | 精品人人人人 | 人人狠狠综合久久亚洲 | 在线观看国产日韩欧美 | 日韩精品一区二区三区免费观看视频 | 免费观看一区二区三区视频 | 四虎影视欧美 | 国产不卡在线视频 | 九九热精品国产 | 天天爽夜夜爽人人爽一区二区 | 久久免费影院 | 亚洲精品国产精品国自产观看 | 亚洲爱爱视频 | 成人午夜电影免费在线观看 | 国产精品一区二 | 婷婷在线免费观看 | 久久精品99视频 | 国产成人一区二区三区在线观看 | 欧美在线18 | 欧美精品亚洲二区 | 成人一级片在线观看 | 日韩网站在线观看 | 91超在线 | 伊人日日干 | 国产精品成人在线 | 日韩精品视频免费 | 成年人天堂com | 五月婷婷视频在线 | 黄色资源在线 | 亚洲成人av影片 | 精品国产视频在线观看 | av福利在线免费观看 | 永久免费av在线播放 | 看污网站 | 国产精品毛片网 | 国产精品视频不卡 | 久久99精品一区二区三区三区 | 国产精选在线观看 | 精品久久久久免费极品大片 | 69精品在线| 少妇精69xxtheporn | 欧美一区二区在线 | 精品国产亚洲日本 | 激情喷水 | 日韩av男人的天堂 | 欧美va天堂va视频va在线 | 亚洲毛片在线观看. | 国产黄色片免费在线观看 | 操高跟美女 | 国产精品久久久久久久久久尿 | 精品爱爱| 久久婷婷精品视频 | 日韩免费播放 | 国产视频97 | 日韩精品久久久久 | 欧美韩日在线 | 免费在线观看中文字幕 | 黄色成人小视频 | 在线观看中文字幕 | 久久爱资源网 | 99精品国产99久久久久久福利 | 欧美另类视频 | 探花视频在线版播放免费观看 | 天天射天天干天天爽 | 97色婷婷| 色综合天天爱 | 少妇视频一区 | 精品国产乱码久久久久久浪潮 | 五月婷丁香 | 国产成人av | 久视频在线 | 久久久精品欧美一区二区免费 | 亚洲婷婷伊人 | 三级视频片 | 超碰人人99| 欧美日韩超碰 | 中文字幕在线日亚洲9 | av直接看| 日韩av网页 | 热九九精品 | av黄色在线观看 | 亚洲在线成人精品 | 天天摸天天舔 | 91在线91拍拍在线91 | 国产精品一区二区av麻豆 | 国产精品免费观看久久 | 欧美精品久久 | 日本特黄一级 | 美女视频a美女大全免费下载蜜臀 | 黄色福利 | 91精品视频在线观看免费 | 婷婷激情综合网 | 久久免费黄色网址 | 欧美地下肉体性派对 | www.久久爱.cn | 国产做爰视频 | 天天操天天爽天天干 | 五月婷婷综合在线 | 蜜臀一区二区三区精品免费视频 | 日韩一级电影在线观看 | 亚洲精品综合在线观看 | 狠狠的操你 | 国产一级性生活 | 夜夜视频欧洲 | av免费电影网站 | 国产成人不卡 | 精品视频久久久 | 夜夜夜夜爽 | 国产在线欧美日韩 | 国产无遮挡又黄又爽馒头漫画 | a级国产乱理伦片在线播放 久久久久国产精品一区 | 久草免费福利在线观看 | 久久久精品免费看 | 奇米先锋 | 国产精品一区二区三区99 | 免费在线观看av | 免费99精品国产自在在线 | 国产精品一区二 | 国产精品久免费的黄网站 | 亚洲精品五月 | 久久xx视频 | 日韩色一区二区三区 | 91激情| 国产91成人在在线播放 | 久久av影视 | 韩国av免费看 | 成人三级黄色 | 在线观看爱爱视频 | 99久久精品无免国产免费 | 日韩91在线 | 人人添人人澡人人澡人人人爽 | 欧美另类交在线观看 | 日本中文字幕在线免费观看 | 欧美极品少妇xbxb性爽爽视频 | 波多野结衣一区三区 | 国产成人一区二区三区电影 | 中文字幕乱偷在线 | 91黄在线看| 国产伦精品一区二区三区在线 | 黄色动态图xx | av手机在线播放 | 美女久久一区 | 日韩精品一区二区三区电影 | 亚洲综合色视频 | 久久短视频 | 国产精品99页 | 天天操欧美 | 日韩不卡高清视频 | 一区二区三区免费网站 | 亚洲国产精久久久久久久 | 国产精品视频不卡 | 日韩欧美一区视频 | 亚洲少妇天堂 | 91一区二区三区久久久久国产乱 | 日本中文在线观看 | 国产一级视频在线 | 国产免费av一区二区三区 | 在线看片一区 | 久久久久久久18 | 亚洲另类久久 | 91九色蝌蚪视频 | 国产 欧美 日产久久 | 国产精品永久免费观看 | 国产日韩视频在线观看 | 日韩精品久久久久久久电影99爱 | 九九99靖品 | 欧美了一区在线观看 | 久草爱 | 亚洲激情网站免费观看 | 国产精品久久久毛片 | 人人澡人 | 国产自在线观看 | 天天操天天摸天天射 | 中文av资源站 | 免费高清在线观看电视网站 | 久草影视在线观看 | 免费在线观看不卡av | 综合天天 | 玖玖在线观看视频 | 免费网站污 | 日韩中文字幕a | 激情小说网站亚洲综合网 | 欧美不卡视频在线 | 亚洲网久久| 狠狠色丁香婷婷综合欧美 | 免费观看国产视频 | 日韩高清免费无专码区 | 99久热在线精品 | 欧洲成人av | 色94色欧美 | 国产精品普通话 | 四虎成人精品永久免费av | 中文字幕在线观看视频网站 | 欧美一二三区在线播放 | 免费91在线 | 97超碰国产精品女人人人爽 | 91视频高清免费 | 日韩一区二区三区不卡 | 久久久久免费精品视频 | 九九久久成人 | 日韩高清二区 | 国产人成精品一区二区三 | 人人爽人人看 | 99久久99久久免费精品蜜臀 | 国产精品美女久久久久久 | 精品国产一区二区三区蜜臀 | 国产69精品久久99的直播节目 | 国产精品99久久久久久小说 | 2020天天干夜夜爽 | 日韩久久片 | 一级片免费观看 | 精品美女在线视频 | 国产精品乱码高清在线看 | 精品国产乱码久久久久久三级人 | 综合色站| 久热只有精品 | a天堂最新版中文在线地址 久久99久久精品国产 | 精品一区二区视频 | www.av在线播放 | 精品国产一区二区三区免费 | 久草久热 | 黄色毛片在线 | 久久久久久97三级 | 成人av久久 | 日本中文字幕网站 | 四虎国产视频 | 婷婷色在线观看 | 91视频久久| 国产精品成人品 | 色视频成人在线观看免 | 欧美精品v国产精品v日韩精品 | 午夜精品中文字幕 | 国产精品成人免费精品自在线观看 | 在线观看黄网站 | 丁香激情五月 | 91香蕉视频| 国产高清视频在线观看 | 在线免费观看黄色大片 | 欧美成人影音 | 欧美激情第八页 | 欧美精品日韩 | 国产精品不卡 | 狠狠色丁香久久婷婷综合_中 | 五月亚洲婷婷 | 亚洲午夜精品电影 | 亚洲精品在线播放视频 | 91福利社区在线观看 | 欧洲色综合| 天天干夜夜操视频 | 欧美性天天 | 日本 在线 视频 中文 有码 | 91在线看免费 | 99在线播放 | 99精品影视 | 波多野结衣一区二区三区中文字幕 | 日韩久久精品一区二区三区 | 欧美韩国日本在线观看 | 国产在线播放一区二区三区 | 国产欧美在线一区 | 成人av手机在线 | 欧美激情视频免费看 | av日韩不卡 | 亚洲经典视频在线观看 | 91在线最新 | 99久久精品国产亚洲 | 日韩av网址在线 | 人人要人人澡人人爽人人dvd | 午夜精品影院 | 亚洲一区二区精品 | 亚洲视频资源在线 | 中文字幕在线中文 | 国产一级免费播放 | 91精品在线播放 | 九九在线播放 | 97小视频| 黄色一区三区 | 亚洲免费永久精品国产 | 免费av网站在线看 | 国产理论影院 | 国产精品久久久久久久久久久久午夜 | 久久av中文字幕片 | 激情丁香综合五月 | 天天草天天 | 亚洲区二区 | 91福利小视频 | 国产 视频 高清 免费 | 91看片成人| 午夜精品久久久久久久久久久 | 91久久久久久久 | 国产69精品久久久久99尤 | 91麻豆精品国产午夜天堂 | 五月婷婷激情网 | 亚洲国产精久久久久久久 | 日韩欧美在线综合网 | 免费日韩一区二区三区 | 欧美天堂影院 | 成人网大片 | 午夜 免费 | 国产剧情久久 | 99久久超碰中文字幕伊人 | a色网站| 欧美一级免费在线 | 成年人免费观看国产 | 国内综合精品午夜久久资源 | 麻豆mv在线观看 | 91丨九色丨国产丨porny精品 | 亚洲国产精品女人久久久 | 亚洲精品午夜久久久久久久久久久 | 久久伊人精品一区二区三区 | 香蕉网在线播放 | 18av在线视频 | 美女精品网站 | 婷婷综合影院 | 精品国产亚洲在线 | 国产美女视频 | 五月天天av | 欧美一级久久久 | 黄色亚洲免费 | 麻豆91精品91久久久 | 国产美女无遮挡永久免费 | 午夜久久久精品 | 天天操天天操天天操天天操天天操天天操 | 97超级碰 | 国产成人一区二区三区电影 | 久久久私人影院 | 国产在线a | 免费av网站在线看 | 色婷婷亚洲婷婷 | 97福利在线观看 | 中文字幕在线看视频 | 日韩欧美在线视频一区二区 | 精品久久久久久久久亚洲 | 国产中文字幕第一页 | 毛片二区| 久久综合久久久 | 国产欧美最新羞羞视频在线观看 | 很黄很黄的网站免费的 | 国产精品久久久久久久久婷婷 | 福利视频一区二区 | 亚洲黄色在线 | 久久久久久久久久久免费 | 国内精品久久久久久久影视简单 | 天天操天天干天天爱 | 欧美激情精品久久久久久变态 | 国产成人精品久 | 久草在线免费播放 | 国产日韩欧美自拍 | 成人三级网址 | 国产99黄 | 国产精品福利一区 | 911亚洲精品第一 | 国产精品岛国久久久久久久久红粉 | 伊人网av | 992tv在线| 丁香六月综合网 | 日韩av在线一区二区 | 亚洲va在线va天堂va偷拍 | 四虎成人免费观看 | 欧美在线观看禁18 | 天天操偷偷干 | 成人午夜剧场在线观看 | 久久久av电影 | 日韩精品专区在线影院重磅 | 午夜视频久久久 | 亚洲国产精品va在线看黑人动漫 | 国内免费久久久久久久久久久 | 最新国产一区二区三区 | 四虎在线永久免费观看 | 人人澡超碰碰97碰碰碰软件 | 久久99热国产 | 国产精品嫩草在线 | 国产一区国产二区在线观看 | 99国产高清| 亚洲精品合集 | www天天干com| aaa免费毛片 | 91九色网址| 999国内精品永久免费视频 | 丝袜护士aⅴ在线白丝护士 天天综合精品 | 久久刺激视频 | 日本在线中文在线 | av一区二区三区在线 | 日韩在线观看免费 | 欧美9999| 国产精品99久久久久的智能播放 | 国产最新在线 | 成人在线网站观看 | 91精品秘密在线观看 | 1区2区3区在线观看 三级动图 | 欧美激情在线看 | 亚洲精区二区三区四区麻豆 | h文在线观看免费 | 国产精品门事件 | 亚洲黄色在线播放 | 国产精品亚洲人在线观看 | 四虎影视久久久 | 国产日韩精品在线观看 | 成人精品福利 | 亚洲人成免费 | 国产专区在线看 | 丁香婷婷深情五月亚洲 | www.色就是色 | 久久99国产精品免费网站 | 日韩国产精品毛片 | 日韩av成人免费看 | 亚洲精品一区二区精华 | 九色精品免费永久在线 | .国产精品成人自产拍在线观看6 | 97色婷婷| 黄色三级网站 | 国产精品第二十页 | 欧美性色黄大片在线观看 | 999视频网站 | 日韩av美女 | 国产又粗又硬又爽视频 | 久久99久久久久久 | 深爱婷婷久久综合 | 国产精品久久久久久久99 | 亚洲va欧美va人人爽春色影视 | 精品美女在线视频 | 天天天干天天射天天天操 | 久久久久久久久久久综合 | 天天天天天天操 | 丁香婷婷激情网 | 久久免费精品一区二区三区 | 久久狠狠一本精品综合网 | 最新国产中文字幕 | 日韩视频三区 | 狠狠操操操 | 精品久久久国产 | 亚洲精品av中文字幕在线在线 | 天天干天天拍天天操天天拍 | 欧美一级欧美一级 | 97视频在线观看视频免费视频 | 亚洲中字幕 | av导航福利 | 成人黄色一级视频 | 91在线视频免费观看 | 九九综合久久 | 国产一区二区精品久久91 | 探花国产在线 | 日韩精品一区电影 | 精品产品国产在线不卡 | 欧美精品亚洲精品 | 91在线产啪 | 免费午夜av| av超碰免费在线 | 久久成人国产精品免费软件 | 人人爽久久涩噜噜噜网站 | 国产亚洲视频在线 | 久久久久亚洲精品国产 | 国产伦精品一区二区三区无广告 | 日批视频国产 | 国产精品女同一区二区三区久久夜 | 毛片网在线播放 | 日韩大片在线看 | 四虎成人精品在永久免费 | 久草在线资源网 | 国产精品爽爽爽 | 亚洲视频免费在线观看 | 91九色精品 | 亚洲一区欧美激情 | 亚洲精品777 | 国产成人精品三级 | japanesexxxhd奶水 国产一区二区在线免费观看 | 99久久成人| 天天干天天草 | 国产精品毛片一区二区 | 色噜噜在线观看 | 日韩免费二区 | 中午字幕在线观看 | 99这里都是精品 | 亚洲va欧美va人人爽 | 欧美二区三区91 | 久久久久国产一区二区三区 | 国产视频一区精品 | 69视频网站 | 欧美日韩啪啪 | 国内精品久久久久久久久久久久 | 国产成人av在线 | 日韩高清av在线 | av福利网址导航大全 | 在线成人国产 | 国产一区二区三区黄 | 亚洲欧美偷拍另类 | 国产中文字幕视频在线观看 | 日韩在线中文字幕 | 成人免费观看在线视频 | 亚洲精品一区二区三区新线路 | 在线视频日韩欧美 | 国产中文字幕网 | 精品国产一区二区三区不卡 | 91亚洲国产| 欧美国产在线看 | 99久久精品免费看国产麻豆 | 日韩精品不卡 | 97**国产露脸精品国产 | 日韩影视在线 | 九九九电影免费看 | 探花视频免费观看高清视频 | 九九热视频在线播放 | 国产精品久久久免费看 | 久久免费视频精品 | 婷婷丁香激情五月 | 亚洲日本va在线观看 | 国产 色| 91在线视频免费观看 | 黄色在线免费观看网站 | 久久999久久| 成人一级 | 中文字幕中文字幕中文字幕 | 色综合天天色综合 | 亚洲欧洲av在线 | 亚洲 欧美 另类人妖 | 婷婷丁香狠狠爱 | 欧美一区二区三区激情视频 | 国产伦理久久 | 久久福利在线 | 中文字幕在线观看第三页 | 99精品在线观看 | 久久免费视频3 | 99精品久久久久久久久久综合 | 中文字幕高清av | av最新资源 | 欧美日韩精品在线一区二区 | 91porny九色在线播放 | 夜添久久精品亚洲国产精品 | 国产麻豆精品传媒av国产下载 | 欧美日韩国产亚洲乱码字幕 | 婷婷丁香综合 | 日韩美女黄色片 | 免费看一级 | 美女禁18| 国产淫a| 成人在线观看日韩 | 国产精品日韩欧美一区二区 | 中文字幕在线观看91 | www在线观看国产 | 91视频国产免费 | 国产精品理论片在线播放 | 九九热免费精品视频 | 欧美91视频 | 日韩影视大全 | 久久久久免费精品视频 | 超碰在线色 | 久久久在线观看 | 国产色爽 | 色狠狠综合天天综合综合 | 美女黄频视频大全 | 亚洲精品玖玖玖av在线看 | 久久久久北条麻妃免费看 | 免费的国产精品 | 欧美极品裸体 | 中文字幕在线观看视频一区二区三区 | 91av小视频 | 免费黄色在线网址 | 亚洲精品www. | 国产成人综 | 成人一级在线 | 久久综合九九 | 国产成人av电影在线 | 亚洲精品系列 | 毛片.com| 色91av | 久久国产精品一区二区 | 色多多在线观看 | 亚洲欧美日韩国产一区二区三区 | 中文字幕在线观看免费高清完整版 | 久草网首页| av福利超碰网站 | 亚洲精品视频在线观看网站 | 成年人黄色在线观看 | 国产免费观看视频 | 国产视频一区在线 | 国模精品一区二区三区 | 国产在线高清视频 | 日韩视频专区 | 久久草网| 三级黄色免费片 | 国产精品久久久久久久久软件 | www.色在线| 四虎影视国产精品免费久久 | 91国内在线视频 | 精品一二三四视频 | 亚洲一区黄色 | 欧美一区在线观看视频 | 美女网站免费福利视频 | 国产又粗又猛又爽 | 亚洲色图 校园春色 | 五月婷婷狠狠 | 99午夜| 亚洲视频久久久久 | 亚洲三级毛片 | 伊人婷婷色| 最近更新的中文字幕 | 久久成人毛片 | 日韩av资源站 | 成人一级片视频 | 综合色在线观看 | 97色在线| 99国产在线视频 | 久久亚洲私人国产精品 | 免费福利在线视频 | 久久婷婷视频 | 黄色成人免费电影 | 婷五月激情 | 欧美中文字幕第一页 | 又爽又黄又刺激的视频 | 午夜神马福利 | www99久久 | 国产精品一区二区三区四 | 成人一区二区在线 | 在线观看一区 | 黄色大片入口 | 国产精品嫩草55av | 日韩视频在线播放 | 国产精品区在线观看 | 91亚洲精品视频 | 久久精品视频免费 | 久久私人影院 | 亚洲国产一区在线观看 | 久久精品播放 | 色网址99| 在线观看中文字幕第一页 | 91av视频免费在线观看 | 狠狠干天天射 | 天天曰天天射 | 久久久精品国产免费观看一区二区 | 五月婷婷丁香在线观看 | 国产96精品 | 国产成人精品午夜在线播放 | 久久国产精品色av免费看 | 久久久久婷 | 国产精品理论片在线观看 | 天海翼一区二区三区免费 | 国产一级高清视频 | 国产精品系列在线 | 在线免费观看一区二区三区 | 在线观看中文字幕视频 | 久久久 激情 | 久草在线精品观看 | 中文在线字幕观看电影 | 久久99久久99精品中文字幕 | 一区二区三区高清在线观看 | 国产亚洲欧美在线视频 | 日韩久久视频 | 国产第一福利 | 天天天天天干 | 久草视频在线免费播放 | 91亚色免费视频 | 狠狠狠色丁香综合久久天下网 | 日韩国产欧美在线视频 | 久久久久免费精品国产小说色大师 | 国内精品视频一区二区三区八戒 | 西西444www大胆无视频 | 日韩精品久久久久久久电影竹菊 | 91pony九色丨交换 | 在线免费黄| 操操色| 久草在线免费看视频 | 久草久草视频 | 国产在线高清视频 | 天天爱天天操天天射 | 免费看的黄色片 | 激情欧美丁香 | 久久热亚洲 | 日韩成人邪恶影片 | 精品福利在线观看 | 人人干人人干人人干 | 中文字幕资源网 国产 | 国产成人精品亚洲日本在线观看 | www.夜夜草 | 97视频免费在线 | 99精品免费久久久久久久久 | 国产a高清| 91精品办公室少妇高潮对白 | 亚洲香蕉在线观看 | 黄色一级网| 噜噜色官网| 色综合天天做天天爱 | 国产精品精品视频 | 91成人亚洲 | 一区二区视频播放 | 欧美视频在线观看免费网址 | 精品美女在线观看 | 亚洲人av免费网站 | 免费看黄色毛片 | 91视频传媒 | 91麻豆精品国产午夜天堂 | 四虎在线永久免费观看 | 国产中文字幕在线视频 | 91av原创| 国产中文字幕在线免费观看 | 一级做a爱片性色毛片www | 国产91精品久久久久 | 国产免费资源 | 四虎在线视频免费观看 | 国产 字幕 制服 中文 在线 | 日本最新高清不卡中文字幕 | 国产精品久久久久久久久久久不卡 | 91污污视频在线观看 | 三级黄色三级 | 亚洲经典中文字幕 | 91传媒免费观看 | 日韩精品一区二区在线观看视频 | 91tv国产成人福利 | 国产视频精品免费 | 99色亚洲 | 免费日韩一区二区三区 | 日韩欧美中文 | 久草免费在线视频 | av 一区二区三区四区 | 国产日韩精品一区二区三区在线 | 97精品国产97久久久久久春色 | 国产精品久久久区三区天天噜 | 久久九九久久精品 | 免费看日韩 | 国产麻豆传媒 | 亚洲1级片| 久久精彩免费视频 | 色狠狠久久av五月综合 | 超碰在线人人草 | 成人a免费 | 最新不卡av| a天堂最新版中文在线地址 久久99久久精品国产 | 亚洲精品日韩在线观看 | 毛片99 | 69av国产| 三级性生活视频 | 免费福利在线 | 这里有精品在线视频 | 天天天天天干 | 亚洲黄色在线免费观看 | 夜夜操天天操 | www在线免费观看 | 综合在线色 | 欧美一区二区在线免费看 | 午夜精品久久久久久久久久 | 麻豆免费视频网站 | 在线观看的黄色 | 少妇av网 | 亚洲成成品网站 | 日韩免费在线观看 | 久久不射电影网 | 射九九| 欧美一二三专区 | 97超碰精品 | 中文字幕免费在线 | 日批视频在线观看免费 | 成年美女黄网站色大片免费看 | 久久精品网站免费观看 | 免费亚洲视频在线观看 | 免费看的黄色的网站 | 视频一区视频二区在线观看 | 在线观看免费版高清版 | 中文字幕一区二区三区精华液 | 欧美日韩不卡一区二区 | 91麻豆传媒 | 亚洲欧美日韩精品久久奇米一区 | 天天做日日爱夜夜爽 | 亚洲国产美女久久久久 | 在线亚洲午夜片av大片 | 久草在线免费播放 | 黄色软件在线看 | 国产精品亚洲精品 | 三级av免费看 | 久久麻豆精品 | 黄色精品国产 | av片在线观看免费 | 精品99免费| 丁香花在线观看免费完整版视频 | 在线观看激情av | 色综合天天狠天天透天天伊人 | 国产精品一区在线播放 | 免费成人av在线 | 国产成人黄色网址 | 午夜久久福利视频 | 成人中文字幕在线观看 | 黄色毛片在线 | 亚洲精品动漫成人3d无尽在线 | 国产精品久久久久一区二区 | 97香蕉久久国产在线观看 | 亚洲成a人片综合在线 | 国产黄色美女 | 天堂av免费观看 | 久久免费精品国产 | 99精品国产成人一区二区 | 久久精品国产免费观看 | 日韩av在线小说 | 久草免费福利在线观看 | 91麻豆精品国产午夜天堂 | 精品国产乱码久久久久久1区二区 | 狠狠干网址| 91麻豆操| 狠狠久久 | 亚洲一级黄色片 | 中文av在线免费观看 | 在线天堂亚洲 | 久久免费高清视频 | 黄色免费视频在线观看 | 国产福利91精品一区二区三区 | 日韩av一区二区三区四区 | 黄a网 | av黄色免费网站 | 人人爽久久久噜噜噜电影 | 久久夜视频 | 色婷婷激情电影 | 青草视频免费观看 | www最近高清中文国语在线观看 | 缴情综合网五月天 | 日韩性片 | www.伊人网| 99国产一区| 六月激情网 | 外国av网 | 2023天天干 | 在线视频区 | 亚洲精品中文字幕视频 | 黄色的网站在线 | 午夜视频免费在线观看 | 国产精品99久久久 | 在线小视频你懂得 | 丝袜美腿亚洲 | 三级黄色免费 | 久久久久免费精品视频 | 久草视频精品 | 不卡的av在线播放 | av免费网站在线观看 | 操操综合 | 国产在线精品一区二区 | 久av在线| 国产精品久久久久三级 | 免费看搞黄视频网站 | 中文在线最新版天堂 | 日日爱网站 | 久久精品久久综合 | 久久国产成人午夜av影院宅 | 91精品视频在线看 | 天天操操操操操操 | 精品久久久一区二区 | 激情片av | 一级做a视频 | 天天操天天艹 | 青春草视频在线播放 | 天天色婷婷 | 国产一区二区三区视频在线 | 中文视频一区二区 | 久久在线免费视频 | 日韩精品免费在线观看 | 天天拍夜夜拍 | 日韩欧美aaa | 亚洲日本va午夜在线影院 | 久久er99热精品一区二区三区 | 中文字幕有码在线 | 亚洲最新视频在线播放 | 五月婷婷国产 | 欧美成人一二区 | 97操操操 | 91人人澡人人爽 | 丰满少妇在线观看网站 | 国产精品欧美一区二区 | 日韩精品中文字幕久久臀 | 中中文字幕av在线 | 国产日韩精品一区二区三区 | 九色激情网 | 福利一区二区三区四区 | 精品在线免费观看 | 夜夜视频欧洲 | 久久黄页 | 久久成人精品电影 | 国产精品欧美 | 亚洲国产精品成人av | 在线观看mv的中文字幕网站 | 青青河边草免费直播 | 久久丁香 | 免费观看视频黄 | 日韩不卡高清视频 | 偷拍精偷拍精品欧洲亚洲网站 | 亚洲国产日韩一区 | 中文网丁香综合网 | 国产96精品 | 欧美精品亚州精品 | ,午夜性刺激免费看视频 | 九九热在线视频 | 精品一区二区久久久久久久网站 | 国产中文字幕一区 | 久久久久久久久久久久久久电影 | av中文字幕免费在线观看 | 综合久色 | 人人澡人人澡人人 | 黄色av电影一级片 | 日韩中午字幕 | 亚洲激情综合 | 玖玖视频免费在线 | 97在线观看免费观看 | 一区 在线 影院 | 国产黄色一级片在线 | 久久久久久久久久久国产精品 | 国产精品综合在线 | 色多视频在线观看 | 欧美成人xxx| 欧美日韩国产二区 | 久久免费国产 | 中文字幕高清视频 | 国产123区在线观看 国产精品麻豆91 | 亚洲综合在线视频 | 中文字幕网站 | 国产精品男女视频 | 亚洲 欧美 变态 国产 另类 | 久久久久久久福利 | 国产精品私人影院 | 午夜精选视频 | 麻豆视频免费播放 | 欧美日韩一区三区 | 69精品 | 久久国产精品一区二区 |