日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 >

集群与存储 LVS的集群

發(fā)布時間:2025/3/21 32 豆豆
生活随笔 收集整理的這篇文章主要介紹了 集群与存储 LVS的集群 小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.

集群

什么是集群?

  • 一組通過網(wǎng)絡(luò)互聯(lián)的計算組,并以單一系統(tǒng)的模式加以管理
  • 講很多服務(wù)器集中起來一起,提供同一種服務(wù),在客戶端看起來就像是只有一個服務(wù)器
  • 可以自愛付出較低成本的情況下獲得在性能,可靠性,靈活性方面的相對較高的收益
  • 任務(wù)調(diào)度時集群系統(tǒng)中的核心技術(shù)

集群的目的

  • 提高性能

如計算密集型應(yīng)用,如:天氣預(yù)報,核試驗?zāi)M

  • 降低成本

相對百萬美元的超級計算機,價格便宜

  • 提高可擴展性

只要增加集群節(jié)點即可

  • 增強可靠性

多個節(jié)點完成相同功能,避免單點失敗

集群的分類

  • 高性能計算機集群HPC

通過以及群開發(fā)的并行應(yīng)用程序,解決復(fù)雜的科學(xué)問題

  • 負載均衡(LB)集群

客戶端負載在計算機集群中盡可能平均分攤

  • 高可用(HA)集群

避免單點故障,當一個系統(tǒng)發(fā)生故障時,可以快速遷移

LVS介紹

  • Linux虛擬服務(wù)器(Linux Virtual Server)是章文嵩在國防科技大學(xué)就讀博士期間創(chuàng)建的
  • LVS可以實現(xiàn)高可用的,可伸縮的WEB,Mail,Cache和Media等網(wǎng)絡(luò)服務(wù)
  • 最終目標是利用Linux操作系統(tǒng)和LVS集群軟件實現(xiàn)一個高可用,高性能,低成本的服務(wù)器應(yīng)用集群
  • LVS,是一個虛擬的四層交換器集群系統(tǒng),根據(jù)目標地址和目標端口實現(xiàn)用戶請求轉(zhuǎn)發(fā),本身不產(chǎn)生流量,只做用戶請求轉(zhuǎn)發(fā)
  • LVS是四層(傳輸層tcp/vdp),七層(應(yīng)用層)的負載均衡工具,用的最多的是就是四層負載均衡功能的ipvs,七層的內(nèi)容分發(fā)負載ktcpvs(kenrnel tcp virtual server),基于內(nèi)容的調(diào)度,因為應(yīng)用層交換處理復(fù)雜,但伸縮性有限.
  • LVS是集成在Linux內(nèi)核里

LVS集群的組成

  • 前端:負載均衡層

由一臺或多臺負載均衡層調(diào)度器構(gòu)成

  • 中間:服務(wù)器群組成

由一組實際運行應(yīng)用服務(wù)的服務(wù)器組成

  • 底端:數(shù)據(jù)共享存儲層

提供共享存儲空間的存儲區(qū)域

LVS與Nginx的區(qū)別

LVS的性能(效率)大于>Nginx

Nginx代理服務(wù)器:
數(shù)據(jù)封裝:

  • 客戶端訪問代理服務(wù)器的時候數(shù)據(jù)包是四層封裝,代理服務(wù)器進行解壓再查看訪問數(shù)據(jù)
  • 代理服務(wù)器充當客戶端角色進行數(shù)據(jù)封裝轉(zhuǎn)發(fā)給后臺服務(wù)器
  • 后臺服務(wù)進行解壓數(shù)據(jù)包返回數(shù)據(jù)的同時進行數(shù)據(jù)封裝交給代理服務(wù)器
  • 再由代理服務(wù)器回傳給客戶端

IP地址角度:

  • 客戶端4.10===> Nginx代理4.5/2.5 ===>Web服務(wù)器2.100
  • Web服務(wù)器2.100==>Nginx代理2.5/4.5===>客戶端4.10

LVS調(diào)度器:

  • LVS可以實現(xiàn)動態(tài)路由功能

IP地址角度:

  • 客戶端4.10===>LVS調(diào)度器4.5(NAT地址轉(zhuǎn)換4.10/2.100)===>Web服務(wù)器2.100
  • Web服務(wù)器2.100===>LVS調(diào)度器(NAT地址轉(zhuǎn)換4.5/4.10===>客戶端4.10
  • 調(diào)度器不會處理客戶端的數(shù)據(jù)包請求,通過NAT地址轉(zhuǎn)換起到一個轉(zhuǎn)發(fā)數(shù)據(jù)包給后端服務(wù)器的功能,(相當于客戶端直接訪問后端服務(wù)器)
  • 由后端服務(wù)器處理完數(shù)據(jù)包通過LVS調(diào)度器回傳給客戶端

LVS與路由器的區(qū)別

  • lvs除了能實現(xiàn)路由的功能,還能實現(xiàn)負載均衡,是一個動態(tài)的路由器
  • 路由器NAT地址轉(zhuǎn)換只能實現(xiàn)把公網(wǎng)轉(zhuǎn)換成私網(wǎng),在把私網(wǎng)轉(zhuǎn)換成公網(wǎng),導(dǎo)致客戶端訪問的都是同一臺服務(wù)器.

LVS的缺點

  • 功能少
  • 不支持正則
  • 不能做動態(tài)網(wǎng)站
  • 不能做動靜分離
  • 不具備健康檢查功能

LVS術(shù)語

  • Director ?Server:調(diào)度服務(wù)器

將負載分發(fā)到Real ?Server的服務(wù)器

  • Real ? ? ? Server:真實服務(wù)器

真正提供應(yīng)用的服務(wù)器

  • VIP ? :虛擬IP地址?

公布給用戶訪問的虛擬IP地址

  • RIP:真實IP地址

集群節(jié)點上使用的IP地址

  • DIP:調(diào)度器連接節(jié)點服務(wù)器的IP地址

?

  • CIP:客戶端的IP地址

LVS工作模式

? ? ? ? ? ?

?VS/NAT

  • 通過網(wǎng)絡(luò)地址轉(zhuǎn)換實現(xiàn)的虛擬服務(wù)器
  • 大并發(fā)訪問時,調(diào)度器的性能成為瓶頸
  • 處理客戶端數(shù)據(jù)請求流量不大,返回數(shù)據(jù)的流量大
  • 導(dǎo)致調(diào)度器處理數(shù)據(jù)流量的壓力更大
    ?

NAT模式工作流程
NAT即網(wǎng)絡(luò)地址轉(zhuǎn)換,其作用是將源(客戶端)的IP地址轉(zhuǎn)發(fā)給后端服務(wù)器
后端服務(wù)器處理完數(shù)據(jù)后通過NAT地址回傳給客戶端

VS/TUN

  • 通過隧道方式實現(xiàn)虛擬服務(wù)器

TUN模式工作流程
這個模式是基于調(diào)度器與后端服務(wù)器是跨地區(qū)的情況
客戶端訪問LVS調(diào)度器,LVS通過vpn技術(shù)把用戶的請求轉(zhuǎn)發(fā)到后端服務(wù)器
再由服務(wù)器把處理數(shù)據(jù)的結(jié)果通過vpn回傳給客戶端
這樣做的最大缺點就是: 跨地區(qū)會導(dǎo)致網(wǎng)絡(luò)延遲很大訪問效率速度更低

VS/DR

  • 直接使用路由技術(shù)實現(xiàn)虛擬服務(wù)器
  • 節(jié)點服務(wù)器需要配置VIP,注意MAC地址廣播
  • 可以滿足更大規(guī)模的集群

DR模式工作流程
由LVS調(diào)度轉(zhuǎn)發(fā)客戶端數(shù)據(jù)請求給后端服務(wù)器,由后端服務(wù)器處理
后端服務(wù)器處理完成后偽裝成LVS調(diào)度器回傳給客戶端

LVS的負載均衡調(diào)度算法

  • LVS目前實現(xiàn)了10中調(diào)度算法
  • 常用的調(diào)度算法有四種
  • 輪詢(Round ?Robin)簡稱RR
  • 加權(quán)輪詢(Weighted ?Round ?Robin)簡稱WRR
  • 最少連接(Least ?Connections)簡稱LC
  • 加權(quán)最少連接(Weighted ?Least ?Connections)簡稱WLC
  • 輪詢:將客戶端的請求平均分發(fā)到Real ?Server,

    加權(quán)輪詢:根據(jù)Real Server權(quán)重值進行輪詢

    最少連接:選擇連接最少數(shù)的服務(wù)器

    加權(quán)最少連接:根據(jù)Real Server權(quán)重值,選擇連接數(shù)最少的服務(wù)器

    最小延遲:找網(wǎng)速更快的服務(wù)器

    網(wǎng)卡的延遲與網(wǎng)卡的帶寬,數(shù)據(jù)的流量有關(guān)

    最少隊列調(diào)度:當已經(jīng)達到最大的并發(fā)量時,客戶端訪問則自動進行排隊,哪個服務(wù)器的排隊最少則自動將客戶端放到該隊列

    源地址散列(Source Hashing):根據(jù)請求的目標地址IP,作為散列鍵(Hash ?Key)從靜態(tài)分配的散列表找出對應(yīng)的服務(wù)器

    其他調(diào)度算法:

    基于局部性的最少連接

    帶復(fù)制的基于局部性最少連接

    目標地址散列(Destination ?Hashing)

    最短的期望的延遲

    最少隊列調(diào)度

    LVS-NAT集群

    LVS的IP負載均衡技術(shù)是通過IPVS模塊實現(xiàn)的

    IPVS模塊已成為Linux的組成部分

    [root@proxy ~]# grep -i 'ipvs' /boot/config-3.10.0-862.el7.x86_64 CONFIG_NETFILTER_XT_MATCH_IPVS=m # IPVS transport protocol load balancing support # IPVS scheduler # IPVS SH scheduler # IPVS application helper

    ipvsadm命令用法

    準備一臺Linux服務(wù)器,安裝ipvsadm軟件包,練習(xí)使用ipvsadm命令,實現(xiàn)如下功能:

    • 使用命令添加基于TCP一些的集群服務(wù)
    • 在集群中添加若干臺后端真實服務(wù)器
    • 實現(xiàn)同一客戶端訪問,調(diào)度器分配固定服務(wù)器
    • 會使用ipvsadm實現(xiàn)規(guī)則的增、刪、改
    • 保存ipvsadm規(guī)則

    方案安裝ipvsadm軟件包,關(guān)于ipvsadm的用法可以參考man ipvsadm資料。
    常用ipvsadm命令語法格式如表-1及表-2所示。

    使用命令增(add)刪(delete)改(edit)清除所有(clear)LVS集群規(guī)則

    1)創(chuàng)建LVS虛擬集群服務(wù)器(算法為輪詢:rr)

    [root@proxy ~]# yum -y install ipvsadm #下載ipvsadm [root@proxy ~]# ipvsadm -A -t 192.168.4.5:80 -s rr #新建虛擬集群 新建一個虛擬服務(wù)器,協(xié)議是tcp服務(wù),算法為輪詢算法 [root@proxy ~]# ipvsadm -Ln #查看,此時沒有真實的服務(wù)器 IP Virtual Server version 1.2.1 (size=4096) Prot LocalAddress:Port Scheduler Flags-> RemoteAddress:Port Forward Weight ActiveConn InActConn TCP 192.168.4.5:80 rr

    2)為集群添加若干real server

    [root@proxy ~]# ipvsadm -a -t 192.168.4.5:80 -r 192.168.2.100:80 #添加真實服務(wù)器,添加到192.168.4.5的虛擬機群,添加realserver [root@proxy ~]# ipvsadm -a -t 192.168.4.5:80 -r 192.168.2.200:80 [root@proxy ~]# ipvsadm -Ln IP Virtual Server version 1.2.1 (size=4096) Prot LocalAddress:Port Scheduler Flags-> RemoteAddress:Port Forward Weight ActiveConn InActConn TCP 192.168.4.5:80 rr-> 192.168.2.100:80 Route 1 0 0 -> 192.168.2.200:80 Route 1 0 0 [root@proxy ~]# ipvsadm -a -t 192.168.4.5:80 -r 192.168.2.201:80 -w 2 #再添加一臺權(quán)重為2的服務(wù)器 [root@proxy ~]# ipvsadm -Ln IP Virtual Server version 1.2.1 (size=4096) Prot LocalAddress:Port Scheduler Flags-> RemoteAddress:Port Forward Weight ActiveConn InActConn TCP 192.168.4.5:80 rr-> 192.168.2.100:80 Route 1 0 0 -> 192.168.2.200:80 Route 1 0 0 -> 192.168.2.201:80 Route 2 0 0 [root@proxy ~]# ipvsadm -e -t 192.168.4.5:80 -r 192.168.2.200:80 -w 3#修改realserver192.168.2.200的權(quán)重為3 [root@proxy ~]# ipvsadm -Ln IP Virtual Server version 1.2.1 (size=4096) Prot LocalAddress:Port Scheduler Flags-> RemoteAddress:Port Forward Weight ActiveConn InActConn TCP 192.168.4.5:80 rr-> 192.168.2.100:80 Route 1 0 0 -> 192.168.2.200:80 Route 3 0 0 -> 192.168.2.201:80 Route 2 0 0 當算法為輪詢時,不論權(quán)重多少都依然自動執(zhí)行輪詢算法

    3)修改集群服務(wù)器設(shè)置(修改調(diào)度器算法,將輪詢修改為加權(quán)輪詢)

    [root@proxy ~]# ipvsadm -E -t 192.168.4.5:80 -s wrr [root@proxy ~]# ipvsadm -Ln IP Virtual Server version 1.2.1 (size=4096) Prot LocalAddress:Port Scheduler Flags-> RemoteAddress:Port Forward Weight ActiveConn InActConn TCP 192.168.4.5:80 wrr-> 192.168.2.100:80 Route 1 0 0 -> 192.168.2.200:80 Route 3 0 0 -> 192.168.2.201:80 Route 2 0 0

    4)修改read server(使用-g,-m,-i選項,默認即為DR模式,-m為NAT模式,-i為Tunnel模式)

    [root@proxy ~]# ipvsadm -e -t 192.168.4.5:80 -r 192.168.2.202 -g [root@proxy ~]# ipvsadm -a -t 192.168.4.5:80 -r 192.168.2.202:80 -m [root@proxy ~]# ipvsadm -Ln IP Virtual Server version 1.2.1 (size=4096) Prot LocalAddress:Port Scheduler Flags-> RemoteAddress:Port Forward Weight ActiveConn InActConn TCP 192.168.4.5:80 wrr-> 192.168.2.100:80 Route 1 0 0 -> 192.168.2.200:80 Route 3 0 0 -> 192.168.2.201:80 Route 2 0 0 -> 192.168.2.202:80 Masq 1 0 0 [root@proxy ~]# ipvsadm -a -t 192.168.4.5:80 -r 192.168.2.203:80 -i [root@proxy ~]# ipvsadm -Ln IP Virtual Server version 1.2.1 (size=4096) Prot LocalAddress:Port Scheduler Flags-> RemoteAddress:Port Forward Weight ActiveConn InActConn TCP 192.168.4.5:80 wrr-> 192.168.2.100:80 Route 1 0 0 -> 192.168.2.200:80 Route 3 0 0 -> 192.168.2.201:80 Route 2 0 0 -> 192.168.2.202:80 Masq 1 0 0 -> 192.168.2.203:80 Tunnel 1 0 0

    下面僅實驗NAT模式與DR模式,TUN模式不常用

    LVS-NAT集群

    • LVS的IP負載均衡技術(shù)是用過IPVS模塊實現(xiàn)的
    • IPVS模塊已成為Linux組成部分

    LVS-NAT集群拓撲圖

    操作流程

    • Real Server:
    • 配置WEB服務(wù)器
    • Director server:
    • 在上安裝并啟用ipvsadm
    • 創(chuàng)建虛擬服務(wù)器
    • 向虛擬服務(wù)器中加入節(jié)點
    • Client:
    • 連接虛擬服務(wù)器測試

    部署LVS-NAT集群

    ?問題

    使用LVS實現(xiàn)NAT模式的集群調(diào)度服務(wù)器,為用戶提供Web服務(wù):

    • 集群對外公網(wǎng)IP地址為192.168.4.5
    • 調(diào)度器內(nèi)網(wǎng)IP地址為192.168.2.5
    • 真實Web服務(wù)器地址分別為192.168.2.100、192.168.2.200
    • 使用加權(quán)輪詢調(diào)度算法,真實服務(wù)器權(quán)重分別為1和2

    方案

    實驗拓撲結(jié)構(gòu)主機配置細節(jié)如表所示。

    使用4臺虛擬機,1臺作為Director調(diào)度器、2臺作為Real Server、1臺客戶端,拓撲結(jié)構(gòu)如圖所示,注意:web1和web2必須配置網(wǎng)關(guān)地址。

    步驟一:配置基礎(chǔ)環(huán)境

    1 ) 為web1和web2配置服務(wù)器網(wǎng)關(guān)

    [root@web1 ~]# nmcli connection modify eth1 ipv4.method manual ipv4.gateway 192.168.2.5 [root@web1 ~]# nmcli connection up eth1 連接已成功激活(D-Bus 活動路徑:/org/freedesktop/NetworkManager/ActiveConnection/5) #################################################################### 也可以更改/etc/sysconfig/network配置文件 [root@web1 ~]# route -n Kernel IP routing table Destination Gateway Genmask Flags Metric Ref Use Iface 0.0.0.0 192.168.2.5 0.0.0.0 UG 104 0 0 eth1 192.168.2.0 0.0.0.0 255.255.255.0 U 104 0 0 eth1 [root@web2 ~]# nmcli connection modify eth1 ipv4.method manual ipv4.gateway 192.168.2.5 [root@web2 ~]# nmcli connection up eth1 連接已成功激活(D-Bus 活動路徑:/org/freedesktop/NetworkManager/ActiveConnection/5) [root@web2 ~]# route -n Kernel IP routing table Destination Gateway Genmask Flags Metric Ref Use Iface 0.0.0.0 192.168.2.5 0.0.0.0 UG 104 0 0 eth1 192.168.2.0 0.0.0.0 255.255.255.0 U 104 0 0 eth1

    ?2)設(shè)置Web服務(wù)器(下載可忽略)

    [root@web1 ~]# yum -y install httpd [root@web1 ~]# vim /etc/httpd/conf/httpd.conf 95 ServerName www.example.com:80 [root@web1 ~]# echo 123123 > /var/www/html/index.html [root@web1 ~]# systemctl restart httpd [root@web1 ~]# curl http://192.168.2.100 123123 [root@web2 ~]# vim /etc/httpd/conf/httpd.conf 95 ServerName www.example.com:80 [root@web2 ~]# echo 456456 > /var/www/html/index.html [root@web2 ~]# systemctl restart httpd [root@web2 ~]# curl 192.168.2.200 456456

    常見問題:如果httpd服務(wù)啟動啟動的比較慢?
    解決方法:可以修改/etc/httpd/conf/httpd.conf文件,
    將ServerName www.example.com:80這行的#注釋符刪除即可。

    3 ) 客戶端訪問測試

    [root@proxy ~]# curl 192.168.2.100 123123 [root@proxy ~]# curl 192.168.2.200 456456

    步驟二:部署LVS-NAT模式調(diào)度器

    1 ) 確認調(diào)度器的路由轉(zhuǎn)發(fā)功能(如果已經(jīng)開啟,可以忽略)

    [root@web1 ~]# cat /proc/sys/net/ipv4/ip_forward #確認路由是否開啟,0是沒開啟,1是已經(jīng)開啟 1 [root@proxy ~]# echo 1 > /proc/sys/net/ipv4/ip_forward #臨時修改 [root@proxy ~]# cat /proc/sys/net/ipv4/ip_forward 1 [root@proxy ~]# echo "net.ipv4.ip_forward = 1" >> /etc/sysctl.conf #修改配置文件,設(shè)置永久規(guī)則

    2)創(chuàng)建集群服務(wù)器

    [root@proxy ~]# yum -y install ipvsadm [root@proxy ~]# ipvsadm -C [root@proxy ~]# ipvsadm -A -t 192.168.4.5:80 -s wrr

    3)添加真實服務(wù)器

    [root@proxy ~]# ipvsadm -a -t 192.168.4.5:80 -r 192.168.2.100:80 -m [root@proxy ~]# ipvsadm -a -t 192.168.4.5:80 -r 192.168.2.200:80 -m

    4)查看規(guī)則列表,并保存規(guī)則?

    [root@proxy ~]# ipvsadm -Ln IP Virtual Server version 1.2.1 (size=4096) Prot LocalAddress:Port Scheduler Flags-> RemoteAddress:Port Forward Weight ActiveConn InActConn TCP 192.168.4.5:80 wrr-> 192.168.2.100:80 Masq 1 0 0 -> 192.168.2.200:80 Masq 1 0 0 [root@proxy ~]# ipvsadm-save -n > /etc/sysconfig/ipvsadm

    步驟三:客戶端測試

    客戶端使用curl命令反復(fù)連接http://192.168.4.5,查看訪問的頁面是否會輪詢到不同的后端真實服務(wù)器。

    lvs集成在內(nèi)核,只要Linux啟動,lvs就自動集成[root@client ~]# curl 192.168.4.5 456456 [root@client ~]# curl 192.168.4.5 123123 [root@client ~]# curl 192.168.4.5 456456 [root@client ~]# curl 192.168.4.5 123123

    LVS-DR集群

    LVS-DR集群拓撲圖

    ?

    操作流程

    • Real Server :
    • 配置WEB服務(wù)器
    • 配置輔助IP地址,調(diào)整內(nèi)核參數(shù)
    • Director Server :
    • 在上安裝并啟用ipvsadm
    • 配置輔助IP地址
    • 創(chuàng)建虛擬服務(wù)器,向虛擬服務(wù)器中加入節(jié)點
    • Client :
    • 連接虛擬服務(wù)器測試

    ARP廣播問題

    • 當客戶端發(fā)起訪問VIP時,對應(yīng)的域名的請求時,根據(jù)網(wǎng)絡(luò)通訊原理會產(chǎn)生ARR廣播
    • 因為負載均衡器和真實的服務(wù)器在同一網(wǎng)絡(luò)并且VIP設(shè)置在集群中的每個節(jié)點上
    • 此時集群內(nèi)的真實服務(wù)器會嘗試回答來自客戶端的ARR廣播,這就會產(chǎn)生問題,大家都說我是"VIP"

    ARP防火墻

    • 使用ARP防火墻也可以禁止對VIP的ARP請求
    [root@client ~]# yum -y install arptables_if [root@client ~]# arptables -A IN -d <virtual_ip> -j DROP [root@client ~]# arptables -A IN -d OUT -s <virtual_ip> -j mangle \ >--mangle-ip-s <real_ip>

    內(nèi)核參數(shù)說明

    • arp_ignore(定義回復(fù)ARR廣播方式)
    • 0(默認值)
    • 回應(yīng)所有的本地地址ARR廣播,本地地址可以配置在任意網(wǎng)絡(luò)接口
    • 1
    • 只回應(yīng)配置在入站網(wǎng)卡接口上的任意IP地址的ARR廣播
    • arp_announce
    • 0(默認)
    • 使用配置在任意網(wǎng)卡接口上的本地IP地址
    • 2
    • 對查詢目標使用最適當?shù)谋镜氐刂?在此模式下將忽略這個IP數(shù)據(jù)包的源地址并嘗試選擇與能與該地址通信的本地地址.首要是選擇所有的網(wǎng)絡(luò)接口的子網(wǎng)中外出訪問子網(wǎng)中包含該目標IP地址的本地地址.如果沒有合適的地址被發(fā)現(xiàn),將選擇當前的發(fā)送網(wǎng)絡(luò)接口或其他有可能接收到該ARR回應(yīng)的網(wǎng)絡(luò)接口來進行發(fā)送

    部署LVS-DR集群

    問題

    使用LVS實現(xiàn)DR模式的集群調(diào)度服務(wù)器,為用戶提供Web服務(wù):

    • 客戶端IP地址為192.168.4.10
    • LVS調(diào)度器VIP地址為192.168.4.15
    • LVS調(diào)度器DIP地址設(shè)置為192.168.4.5
    • 真實Web服務(wù)器地址分別為192.168.4.100、192.168.4.200
    • 使用加權(quán)輪詢調(diào)度算法,web1的權(quán)重為1,web2的權(quán)重為2

    說明:
    CIP是客戶端的IP地址;
    VIP是對客戶端提供服務(wù)的IP地址;
    RIP是后端服務(wù)器的真實IP地址;
    DIP是調(diào)度器與后端服務(wù)器通信的IP地址(VIP必須配置在虛擬接口)。
    ?

    方案

    使用4臺虛擬機,1臺作為客戶端、1臺作為Director調(diào)度器、2臺作為Real Server,拓撲結(jié)構(gòu)如圖所示。實驗拓撲結(jié)構(gòu)主機配置細節(jié)如表所示。

    步驟一:配置實驗網(wǎng)絡(luò)環(huán)境

    1)設(shè)置Proxy服務(wù)器的VIP和DIP

    注意:為了防止沖突,VIP必須要配置在網(wǎng)卡的虛擬接口!!!

    [root@proxy ~]# cd /etc/sysconfig/network-scripts/ [root@proxy network-scripts]# ls ifcfg-eth0 ifdown-eth ifdown-sit ifup-eth ifup-ppp init.ipv6-global ifcfg-eth1 ifdown-ippp ifdown-Team ifup-ippp ifup-routes network-functions ifcfg-eth2 ifdown-ipv6 ifdown-TeamPort ifup-ipv6 ifup-sit network-functions-ipv6 ifcfg-eth3 ifdown-isdn ifdown-tunnel ifup-isdn ifup-Team ifcfg-lo ifdown-post ifup ifup-plip ifup-TeamPort ifdown ifdown-ppp ifup-aliases ifup-plusb ifup-tunnel ifdown-bnep ifdown-routes ifup-bnep ifup-post ifup-wireless [root@proxy network-scripts]# cp ifcfg-eth0{,:0} [root@proxy network-scripts]# vim ifcfg-eth0:0 1 TYPE=Ethernet #網(wǎng)卡類型為:以太網(wǎng)卡 4 BOOTPROTO=none #none手動配置IP,或者dhcp自動配置IP 6 NAME=eth0:0 #網(wǎng)卡名稱 7 DEVICE=eth0:0 #設(shè)備名稱 8 ONBOOT=yes #開機時是否自動激活該網(wǎng)卡 9 IPADDR=192.168.4.15 #IP地址 10 PREFIX=24 #子網(wǎng)掩碼 [root@proxy network-scripts]# systemctl restart network #重啟 [root@proxy network-scripts]# ifconfig #此時多了一個eth0:0的網(wǎng)卡,其他主機也可以ping通該IP eth0: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500inet 192.168.4.5 netmask 255.255.255.0 broadcast 192.168.4.255ether 52:54:00:2f:40:71 txqueuelen 1000 (Ethernet)RX packets 11438 bytes 698521 (682.1 KiB)RX errors 0 dropped 8612 overruns 0 frame 0TX packets 1826 bytes 222235 (217.0 KiB)TX errors 0 dropped 0 overruns 0 carrier 0 collisions 0eth0:0: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500inet 192.168.4.15 netmask 255.255.255.0 broadcast 192.168.4.255ether 52:54:00:2f:40:71 txqueuelen 1000 (Ethernet).......[root@proxy ~]# ip a s eth0 #查看ip的另一種方法 2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP group default qlen 1000link/ether 52:54:00:2f:40:71 brd ff:ff:ff:ff:ff:ffinet 192.168.4.5/24 brd 192.168.4.255 scope global noprefixroute eth0valid_lft forever preferred_lft foreverinet 192.168.4.15/24 brd 192.168.4.255 scope global secondary noprefixroute eth0:0valid_lft forever preferred_lft forever

    ?

    常見問題:RHEL7和Centos7系統(tǒng)中有兩個管理網(wǎng)絡(luò)的服務(wù),有可能沖突?
    解決方法:關(guān)閉NetworkManager服務(wù)后重啟network即可。

    [root@proxy network-scripts]# systemctl ?stop NetworkManager?

    2)設(shè)置Web1服務(wù)器網(wǎng)絡(luò)參數(shù)

    [root@web1 ~]# nmcli connection modify eth0 ipv4.method manual \ ipv4.addresses 192.168.4.100/24 connection.autoconnect yes [root@web1 ~]# nmcli connection up eth0

    接下來給web1配置VIP地址。
    注意:這里的子網(wǎng)掩碼必須是32(也就是全255),網(wǎng)絡(luò)地址與IP地址一樣,廣播地址與IP地址也一樣。

    [root@web1 network-scripts]# cp ifcfg-lo{,:0}1 DEVICE=lo:0 #設(shè)備名稱2 IPADDR=192.168.4.15 #IP地址3 NETMASK=255.255.255.255 #子網(wǎng)掩碼4 NETWORK=192.168.4.15 #網(wǎng)絡(luò)地址5 BROADCAST=192.168.4.15 #廣播地址6 ONBOOT=yes #開機時是否自動激活該網(wǎng)卡7 NAME=lo:0 #網(wǎng)卡名稱

    防止地址沖突的問題:
    這里因為web1也配置與調(diào)度器一樣的VIP地址,默認肯定會出現(xiàn)地址沖突;
    sysctl.conf文件寫入這下面四行的主要目的就是訪問192.168.4.15的數(shù)據(jù)包,只有調(diào)度器會響應(yīng),其他主機都不做任何響應(yīng),這樣防止地址沖突的問題。

    [root@web1 network-scripts]# vim /etc/sysctl.conf #手動寫入如下4行內(nèi)容 net.ipv4.conf.all.arp_ignore = 1 net.ipv4.conf.lo.arp_ignore = 1 net.ipv4.conf.lo.arp_announce = 2 net.ipv4.conf.all.arp_announce = 2 #arp_ignore 當有arp廣播問誰是192.168.4.15時,本機忽略該ARP廣播,不做任何回應(yīng) #arp_announce 本機不要向外宣告自己的lo回環(huán)地址是192.168.4.15[root@web1 network-scripts]# sysctl -p net.ipv4.conf.all.arp_ignore = 1 net.ipv4.conf.lo.arp_ignore = 1 net.ipv4.conf.lo.arp_announce = 2 net.ipv4.conf.all.arp_announce = 2

    重啟網(wǎng)絡(luò)服務(wù),設(shè)置防火墻與SELinux

    [root@web1 network-scripts]# systemctl restart network [root@web1 network-scripts]# ifconfig ...... lo:0: flags=73<UP,LOOPBACK,RUNNING> mtu 65536inet 192.168.4.15 netmask 255.255.255.255loop txqueuelen 1000 (Local Loopback)

    3)設(shè)置Web2服務(wù)器網(wǎng)絡(luò)參數(shù)

    [root@web2 ~]# nmcli connection modify eth0 ipv4.method manual ipv4.addresses 192.168.4.200/24 connection.autoconnect yes [root@web2 ~]# nmcli connection up eth0 連接已成功激活(D-Bus 活動路徑:/org/freedesktop/NetworkManager/ActiveConnection/6) [root@web2 ~]# ifconfig eth0 eth0: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500inet 192.168.4.200 netmask 255.255.255.0 broadcast 192.168.4.255ether 52:54:00:3e:8d:bf txqueuelen 1000 (Ethernet)RX packets 10245 bytes 533756 (521.2 KiB)RX errors 0 dropped 10193 overruns 0 frame 0TX packets 1 bytes 42 (42.0 B)TX errors 0 dropped 0 overruns 0 carrier 0 collisions 0

    接下來給web2配置VIP地址
    注意:這里的子網(wǎng)掩碼必須是32(也就是全255),網(wǎng)絡(luò)地址與IP地址一樣,廣播地址與IP地址也一樣。

    [root@web2 ~]# cd /etc/sysconfig/network-scripts/ [root@web2 network-scripts]# vim ifcfg-lo:01 DEVICE=lo:0 #設(shè)備名稱2 IPADDR=192.168.4.15 #IP地址3 NETMASK=255.255.255.255 #子網(wǎng)掩碼4 NETWORK=192.168.4.15 #網(wǎng)絡(luò)地址5 BROADCAST=192.168.4.15 #廣播地址6 ONBOOT=yes #開機時是否自動激活該網(wǎng)卡7 NAME=lo:0 #網(wǎng)卡名稱

    防止地址沖突的問題:
    這里因為web1也配置與調(diào)度器一樣的VIP地址,默認肯定會出現(xiàn)地址沖突;
    sysctl.conf文件寫入這下面四行的主要目的就是訪問192.168.4.15的數(shù)據(jù)包,只有調(diào)度器會響應(yīng),其他主機都不做任何響應(yīng),這樣防止地址沖突的問題。

    [root@web2 ~]# vim /etc/sysctl.conf [root@web2 network-scripts]# vim /etc/sysctl.conf #手動寫入如下4行內(nèi)容 net.ipv4.conf.all.arp_ignore = 1 net.ipv4.conf.lo.arp_ignore = 1 net.ipv4.conf.lo.arp_announce = 2 net.ipv4.conf.all.arp_announce = 2 #arp_ignore 當有arp廣播問誰是192.168.4.15時,本機忽略該ARP廣播,不做任何回應(yīng) #arp_announce 本機不要向外宣告自己的lo回環(huán)地址是192.168.4.15 [root@web2 network-scripts]# sysctl -p net.ipv4.conf.all.arp_ignore = 1 net.ipv4.conf.lo.arp_ignore = 1 net.ipv4.conf.lo.arp_announce = 2 net.ipv4.conf.all.arp_announce = 2

    重啟網(wǎng)絡(luò)服務(wù),設(shè)置防火墻與SELinux

    [root@web2 network-scripts]# systemctl restart network [root@web2 network-scripts]# ifconfig .... lo:0: flags=73<UP,LOOPBACK,RUNNING> mtu 65536inet 192.168.4.15 netmask 255.255.255.255loop txqueuelen 1000 (Local Loopback)

    步驟二:proxy調(diào)度器安裝軟件并部署LVS-DR模式調(diào)度器

    1)安裝軟件(如果已經(jīng)安裝,此步驟可以忽略)

    [root@proxy ~]# yum -y install ipvsadm

    2)清理之前實驗的規(guī)則,創(chuàng)建新的集群服務(wù)器規(guī)則

    [root@proxy ~]# ipvsadm -C #清空所有規(guī)則 [root@proxy ~]# ipvsadm -A -t 192.168.4.15:80 -s wrr

    3)添加真實服務(wù)器(-g參數(shù)設(shè)置LVS工作模式為DR模式,-w設(shè)置權(quán)重)

    [root@proxy network-scripts]# ipvsadm -a -t 192.168.4.15:80 -r 192.168.4.100:80 [root@proxy network-scripts]# ipvsadm -a -t 192.168.4.15:80 -r 192.168.4.200:80

    4)查看規(guī)則列表,并保存規(guī)則

    [root@proxy network-scripts]# ipvsadm -Ln IP Virtual Server version 1.2.1 (size=4096) Prot LocalAddress:Port Scheduler Flags-> RemoteAddress:Port Forward Weight ActiveConn InActConn TCP 192.168.4.15:80 wrr-> 192.168.4.100:80 Route 1 0 0 -> 192.168.4.200:80 Route 1 0 0

    步驟三:客戶端測試

    客戶端使用curl命令反復(fù)連接http://192.168.4.15,查看訪問的頁面是否會輪詢到不同的后端真實服務(wù)器。
    擴展知識:默認LVS不帶健康檢查功能,需要自己手動編寫動態(tài)檢測腳本,實現(xiàn)該功能:(參考腳本如下,僅供參考)

    [root@client ~]# curl 192.168.4.15 ? ? ? ? ? ? ? ? ? ?? 456456 [root@client ~]# curl 192.168.4.15 123123 [root@client ~]# curl 192.168.4.15 456456 [root@client ~]# curl 192.168.4.15 123123 [root@client ~]# curl 192.168.4.15 456456 腳本如下: [root@proxy ~]# vim ?jiancha.sh? #!/bin/bash vip=192.168.4.15:80 rip1=192.168.4.100 rip2=192.168.4.200 while : dofor IP in $rip1 $rip2docurl -s http://$IP &> /dev/null if [ $? -eq 0 ];thenipvsadm -Ln | grep -q $IP || ipvsadm -a -t $vip -r $vipelseipvsadm -Ln | grep -q $IP && ipvsadm -d -t $vip -r $vipfi donesleep 1 done [root@proxy ~]# chmod +x check.sh ##usleep 沉睡(毫秒)

    ?

    總結(jié)

    以上是生活随笔為你收集整理的集群与存储 LVS的集群的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。

    如果覺得生活随笔網(wǎng)站內(nèi)容還不錯,歡迎將生活随笔推薦給好友。

    五月天综合婷婷 | 精品国产乱码久久久久久天美 | 99精品国产一区二区三区麻豆 | 国产午夜激情视频 | 91在线公开视频 | 免费视频91 | 久久的色| 日韩在线观看视频网站 | 国产黄a三级三级 | 亚洲精品天天 | 韩日在线一区 | 午夜精品视频福利 | 一区二区三区污 | 久久精品7| 亚洲精品久久久久久久不卡四虎 | 天天操福利视频 | 成人午夜影院在线观看 | 91亚洲视频在线观看 | 亚洲免费观看在线视频 | 欧洲成人免费 | 69国产在线观看 | 久久九九精品久久 | 日韩mv欧美mv国产精品 | 国产福利一区二区三区视频 | 国产亚洲精品久久久久久久久久久久 | 黄色av电影一级片 | 五月天丁香 | 中文一区在线观看 | 日韩在线国产 | 手机看片| 亚洲在线色 | 久久精品视频网站 | 在线91色 | 欧美久久九九 | 波多野结衣视频一区二区三区 | 99精品国产免费久久久久久下载 | 亚洲不卡在线 | 激情久久综合 | 成人久久久久久久久久 | 黄色a视频免费 | 色婷婷视频网 | 精品久久久久久国产91 | 92国产精品久久久久首页 | 五月婷婷在线视频观看 | 狠狠色伊人亚洲综合网站色 | 国产无限资源在线观看 | 久久免费国产视频 | 色婷婷综合视频在线观看 | 色噜噜狠狠狠狠色综合 | 婷婷在线观看视频 | 国产91区 | 男女拍拍免费视频 | 国产精品国产三级国产aⅴ无密码 | 国产精品永久免费 | 欧洲精品二区 | 亚洲精品456在线播放乱码 | 欧美夫妻生活视频 | 国产丝袜在线 | 精品国产免费一区二区三区五区 | 国产视频精品久久 | 亚洲日日夜夜 | 91超级碰碰 | 亚洲人成人在线 | 探花视频网站 | 激情一区二区三区欧美 | 欧美综合色在线图区 | 亚洲婷婷伊人 | 国产成人精品一区二三区 | 日韩系列| 四虎免费在线观看视频 | 久久久久久国产精品 | 日韩黄色免费在线观看 | 狠狠做深爱婷婷综合一区 | 久久爱www.| 夜色资源站国产www在线视频 | 九九久久电影 | 最新日韩视频在线观看 | 中文字幕乱码电影 | 国产精品porn | 99在线热播 | 日韩av电影中文字幕 | 色窝资源| 国产又粗又硬又爽视频 | 在线不卡视频 | 久久久午夜精品理论片中文字幕 | 成人久久| 亚洲国产大片 | 久久99精品久久久久婷婷 | 免费色视频网站 | 亚洲精品在线观看视频 | 人人澡人人爱 | 狠狠的日日| 久久伊人色综合 | 福利视频午夜 | 久久免费视频2 | 五月天亚洲激情 | 999久久a精品合区久久久 | 免费高清在线视频一区· | 成人国产精品入口 | 国产一区二区在线免费视频 | 国产精品成人av久久 | 激情导航| 九九热视频在线 | 天海翼一区二区三区免费 | 日本不卡视频 | 欧美色图另类 | www.久艹| 欧美精品久久久久久久久久白贞 | 九九视频免费观看视频精品 | 精品免费 | 99精品免费久久久久久日本 | 日韩v在线91成人自拍 | 91色一区二区三区 | 超碰在线人 | 欧美在线91 | 免费看的黄网站 | 久精品视频在线观看 | 国产精品欧美久久久久无广告 | 91精品免费视频 | 国产成人精品亚洲a | 91丨九色丨蝌蚪丨对白 | 麻豆精品视频在线观看免费 | 91精品国产综合久久福利 | 狠狠干天天干 | 久久久成人精品 | 国产视频一区精品 | 日日成人网 | 99久久精品网| 国产精品乱码一区二三区 | 激情综合久久 | 涩涩网站在线看 | 精品国产乱码一区二 | 黄色在线免费观看网站 | 日韩精品1区2区 | 国产精品国产三级国产 | 在线 国产 日韩 | 最新91在线视频 | 在线一区二区三区 | 不卡的av| 91漂亮少妇露脸在线播放 | 色婷婷导航 | 在线观看成人毛片 | 四虎成人av | 一级黄视频 | 久久精品九色 | 天天做综合网 | 玖操 | 国产美女免费视频 | 天天插综合 | 国产精品乱码久久久 | 久久精品国产成人 | 青青久视频 | 久久综合九色综合久99 | 99精品视频在线播放观看 | 91少妇精拍在线播放 | 国产一区免费看 | 久久精品免视看 | 91九色蝌蚪视频在线 | 日日爽视频 | 久久精品视频网址 | 午夜10000 | 欧美一区二区在线免费看 | 日韩系列 | 国产三级久久久 | 麻豆传媒在线视频 | 日韩性片| 国产精品福利在线播放 | 99国产一区二区三精品乱码 | av超碰在线 | 日韩一区正在播放 | 国产精品成人国产乱一区 | 九九激情视频 | 国产精品美女视频网站 | 97国产情侣爱久久免费观看 | 久久久久亚洲国产 | 超碰在线98| 国内精品久久天天躁人人爽 | 狠狠色噜噜狠狠狠狠 | 五月天综合婷婷 | 3d黄动漫免费看 | 日韩特黄一级欧美毛片特黄 | 国产69熟 | 国产专区视频在线观看 | 国产精品毛片久久蜜 | 亚洲影院国产 | 在线观看成人小视频 | 亚洲男男gⅴgay双龙 | 欧美色精品天天在线观看视频 | 亚洲一区二区视频在线播放 | 日韩av看片 | 久久免费看毛片 | 色多多在线观看 | 欧美日韩免费视频 | wwxxx日本| www.综合网.com| 精品96久久久久久中文字幕无 | 久久99电影 | 草久久久久久久 | 久黄色| 亚洲婷婷免费 | 欧美亚洲国产日韩 | 国产在线观看免费 | www.天天操 | 97国产在线观看 | 久草在线看片 | 国产区精品 | 在线观看国产www | 91香蕉视频污在线 | 国产精品手机在线 | 国产五月天婷婷 | 日韩av网站在线播放 | 天天干 夜夜操 | www色网站 | 国产亚洲成av人片在线观看桃 | 亚洲欧洲精品一区二区精品久久久 | 成人小视频在线观看免费 | 中文字幕在线观看第三页 | 亚洲另类久久 | 91网址在线看 | 亚洲激情在线 | 久久午夜羞羞影院 | 亚洲精品美女久久久久网站 | 麻豆一区二区 | 精品国产一区二区三区久久久 | 久久久久在线 | 丁香六月网 | 天天干天天综合 | 99精品视频99 | 国产精品国产三级国产专区53 | av国产在线观看 | 99热国产在线 | 黄色影院在线免费观看 | 国产一级淫片免费看 | 91精品啪啪 | 中文字幕在线观看网 | 欧美一级特黄高清视频 | 日韩电影在线看 | 久久久精品日本 | 激情综合网五月婷婷 | 狠狠色伊人亚洲综合网站色 | 久草精品网 | 国产 日韩 在线 亚洲 字幕 中文 | 最新婷婷色 | 精品色999 | 久久高清毛片 | 成年人视频在线免费播放 | 狠狠干激情 | 日韩精品视频在线免费观看 | 亚洲精品h | 免费国产亚洲视频 | 久久免费视频精品 | 国产午夜在线观看视频 | 毛片www| 久久电影日韩 | 波多野结依在线观看 | 成人丝袜 | 国产福利午夜 | 五月天亚洲婷婷 | 久久精品国产亚洲精品 | 久草香蕉在线视频 | 一本一本久久a久久精品综合妖精 | 91免费观看视频网站 | 人人射av | 五月黄色 | 国内精品久久久久久久影视麻豆 | 成人在线视频在线观看 | 粉嫩aⅴ一区二区三区 | 国产精品免费高清 | 日韩黄色免费在线观看 | 久草久草在线 | av中文字幕在线看 | 在线观看中文字幕 | 国偷自产视频一区二区久 | 亚洲综合色丁香婷婷六月图片 | 麻豆传媒在线免费看 | av网站手机在线观看 | 91色亚洲 | 98超碰在线 | 天天干天天干天天干 | 二区三区在线视频 | 国产精品igao视频网入口 | 色婷婷狠狠五月综合天色拍 | 日韩精选在线观看 | 在线观看精品国产 | 成人一级片免费看 | 亚洲春色奇米影视 | www日日夜夜 | 久久精品视频免费观看 | 日韩在线观看一区二区 | 欧美最猛性xxx | 国产精品女同一区二区三区久久夜 | 成人黄色片免费 | 免费一级片在线观看 | 日韩精品一区二区三区第95 | 97视频播放 | 久久久精品99 | 欧美久久影院 | 国产精品99久久久久久武松影视 | 久久久精品小视频 | 成人9ⅰ免费影视网站 | 国产精品黑丝在线观看 | 97超碰中文字幕 | 国产精品久久久久久久久久免费看 | 久久超| 九九综合久久 | 91精品在线观看入口 | 91久久国产自产拍夜夜嗨 | 婷婷色网视频在线播放 | 亚洲经典中文字幕 | 在线观看黄网站 | 国产成人三级 | 66av99精品福利视频在线 | 国产69精品久久app免费版 | 久久a久久| 美女亚洲精品 | www.婷婷com| 中文字幕av电影下载 | 欧美色操 | 亚洲精品美女久久久久网站 | 久草精品视频在线播放 | 日本久久精品 | 久久99视频精品 | 日韩欧美在线视频一区二区 | 国产淫片免费看 | 狠狠地日 | 久草在线网址 | 91精品在线免费视频 | 狠狠狠色丁香婷婷综合激情 | wwwav视频| 国产99久久精品一区二区永久免费 | 亚洲午夜剧场 | 丁香激情婷婷 | 国产精品久久久久9999 | 91影视成人 | 亚洲精品动漫成人3d无尽在线 | 亚洲乱码精品久久久 | 色综合激情网 | 中文字幕在线观看免费高清电影 | 国产老太婆免费交性大片 | 激情六月婷婷久久 | 在线观看理论 | 成人av电影在线观看 | 91亚洲欧美| 国产精品 中文在线 | 婷婷在线免费 | 在线播放91 | 国产爽视频 | 国产偷在线 | 欧美-第1页-屁屁影院 | av在线播放免费 | 九九久久视频 | 国产成人久久av | 免费亚洲黄色 | 欧美日韩国产综合一区二区 | 久久亚洲人 | 激情在线网 | 九九亚洲视频 | 中文字幕在线视频精品 | 久久九九精品久久 | 欧美一二三区播放 | 97人人精品| 国产一区二区中文字幕 | 日韩免费在线视频观看 | 国产精品毛片久久久久久久久久99999999 | 91精品入口 | 国产一区二区三区视频在线 | 91精品国产乱码 | 亚洲高清视频在线 | 中文字幕成人网 | 亚洲国产成人在线观看 | 日韩一区在线免费观看 | 精品视频在线播放 | 黄色亚洲大片免费在线观看 | 亚洲精品99久久久久久 | 天堂资源在线观看视频 | 国产精品一区二区你懂的 | 黄色一级大片免费看 | 五月婷婷开心中文字幕 | 成年人免费观看国产 | 亚洲综合色网站 | 欧美综合色 | 久久国产精品视频 | 国产亚洲aⅴaaaaaa毛片 | 亚洲免费一级 | 欧美精品乱码久久久久久按摩 | 91亚洲欧美| 99精品视频在线观看播放 | 伊人中文字幕在线 | 狠狠色网| 在线有码中文字幕 | 久久不卡电影 | 国产一级淫片免费看 | 97电影在线 | 69精品久久久 | 日韩特级片 | 免费观看午夜视频 | 精品日本视频 | 日韩在线观看你懂得 | 久久久久久久久久久高潮一区二区 | 亚洲精品自拍视频在线观看 | 韩国av免费在线观看 | 在线天堂中文www视软件 | 国产美女精品久久久 | 中文字幕一二三区 | 婷婷综合影院 | 亚洲一级特黄 | 国产福利在线免费 | 肉色欧美久久久久久久免费看 | 国产精品毛片久久久 | 91大神一区二区三区 | 国产在线久草 | 91字幕 | 久久视频在线视频 | adc在线观看 | 五月天网页| 久久久久久久久久久久久久免费看 | 日韩av电影手机在线观看 | 91亚洲视频在线观看 | 久久精品人 | 中文字幕永久在线 | 精品国产伦一区二区三区观看体验 | 黄色三级在线看 | 激情av资源网 | 1024在线看片 | 在线涩涩| 成年人在线观看免费视频 | 手机av观看 | 欧美一级性生活 | 亚洲成a人片在线观看网站口工 | 色婷婷久久 | 国产免费观看高清完整版 | 最近中文字幕在线播放 | 中文字幕在线一区二区三区 | 91系列在线 | 日韩在线视频观看 | 69久久久| 人人插人人做 | 五月婷网站| 久久精品视频在线观看 | 最新国产在线视频 | www.色午夜 | 日韩大片免费在线观看 | 亚洲伊人第一页 | 国产剧情一区二区 | 日韩在线视频网址 | 国产精彩视频一区二区 | 亚洲国产精品电影 | 97碰碰精品嫩模在线播放 | 91在线看黄 | 国产高清免费在线观看 | 欧美色精品天天在线观看视频 | 日韩欧美综合 | 一区二区三区在线免费观看视频 | 综合在线色 | 日韩一二区在线观看 | 欧美成人日韩 | 欧美一区二区在线 | 婷婷综合网 | 亚洲更新最快 | 久久人人爽人人片 | 亚欧日韩成人h片 | a在线观看国产 | 三级av免费观看 | 中文字幕视频 | av免费网| 国产小视频在线免费观看视频 | 色99在线 | 国产精品一区二区62 | 香蕉视频网址 | 亚洲美女精品视频 | 99视| 亚洲精品理论 | 久久久综合香蕉尹人综合网 | 色99导航 | 国产91综合一区在线观看 | 婷婷色中文网 | 亚洲精品国产精品久久99热 | 开心丁香婷婷深爱五月 | 婷婷激情网站 | 国产91大片 | 国产成人在线一区 | 日韩videos高潮hd | 国产视频丨精品|在线观看 国产精品久久久久久久久久久久午夜 | 国产69精品久久久久久久久久 | 免费视频久久久久久久 | 国产精品女教师 | 麻豆精品国产传媒 | 奇米网777| 激情av综合 | 久久久在线观看 | 国产精品中文 | 国产蜜臀av | 99热在线国产精品 | 国产自产在线视频 | 国产精品久久久久久久午夜 | 天天操天天干天天综合网 | 色综合久久五月天 | 27xxoo无遮挡动态视频 | 啪啪精品 | 国产精品资源在线观看 | 亚洲美女精品区人人人人 | 欧美亚洲一区二区在线 | 亚洲国产精品久久久久久 | 国产我不卡 | 国内揄拍国内精品 | 一本一道波多野毛片中文在线 | 国产一区二区网址 | 在线观看国产高清视频 | 18国产精品福利片久久婷 | 高清中文字幕av | 久九视频| 色婷婷激情电影 | 成 人 黄 色 片 在线播放 | 97电院网手机版 | 亚洲成av人影片在线观看 | 国产精品精品国产 | 碰超在线 | 99久久99久国产黄毛片 | 久久久国产精品成人免费 | 狠狠操综合 | 超碰伊人网 | 欧美一级片在线免费观看 | 日韩激情三级 | 97视频播放 | 一区二区三区高清在线观看 | 国产一区网 | 成人精品视频久久久久 | 色多多污污在线观看 | 免费三及片 | 亚洲天堂精品 | 一二区电影 | 日韩在线观看 | 国产中文字幕三区 | 伊人视频| 免费黄色网址网站 | 黄色精品久久 | 在线有码中文 | 美女视频一区 | 免费视频一区二区 | 日韩精品免费一区二区 | 最新中文在线视频 | 午夜成人影视 | 免费观看日韩av | 99久久99久久免费精品蜜臀 | 一二三精品视频 | 国产九九热 | 成人黄色小说网 | 国产丝袜制服在线 | 欧美精品久久久久久久久久白贞 | 欧美性色黄大片在线观看 | 在线免费观看亚洲视频 | 亚洲自拍偷拍色图 | 看片网站黄色 | 久久高清免费视频 | 热久久国产 | 在线电影日韩 | 精品一二三四五区 | 91精品一区二区三区蜜臀 | 久久国产精品久久精品 | 国产中文字幕视频 | 91中文字幕网 | 91精品久久久久久综合乱菊 | 又黄又爽的免费高潮视频 | 天天色天| 亚洲精品中文在线 | 在线观看免费中文字幕 | 日韩欧美一区二区三区视频 | 亚洲在线不卡 | 中文字幕在线网址 | 成片视频在线观看 | 国产精品成人一区二区三区吃奶 | 激情综合亚洲精品 | 亚洲国产字幕 | 97夜夜澡人人爽人人免费 | 综合中文字幕 | 亚洲精品ww | 欧美日韩国产网站 | 成人中文字幕av | 九九精品无码 | 99精品免费网 | 亚洲国产综合在线 | 夜夜摸夜夜爽 | 98超碰在线观看 | 欧美日一级片 | 韩国av免费在线观看 | 91秒拍国产福利一区 | 色综合久久88色综合天天 | 久久综合免费 | 深爱激情亚洲 | 亚洲精品看片 | 久久久久久久久电影 | 最新日本中文字幕 | 97视频资源 | 国产 在线观看 | 国产中文视 | 午夜三级影院 | 中文字幕三区 | 一区二区免费不卡在线 | 国产一区二区在线免费 | 五月天婷亚洲天综合网鲁鲁鲁 | 久久久久久久免费 | 国产精品18久久久久久久网站 | 久久午夜国产精品 | 国产在线视频导航 | 天天操天天射天天爽 | 成人av高清在线 | 免费看片日韩 | 久久免费成人 | 国产精品午夜av | 福利视频一区二区 | 国产精品第52页 | 欧美日韩一级在线 | 欧美日在线 | 丁香六月婷婷综合 | 久久99精品热在线观看 | 一区二区三区国产欧美 | 国产精品 久久 | 狠狠色丁香婷婷综合视频 | 国产视频一区二区在线播放 | 国产大陆亚洲精品国产 | 特级a老妇做爰全过程 | 国产手机视频精品 | 午夜国产一区二区 | 特黄一级毛片 | 三级av网站| 狠狠精品| 狠狠艹夜夜干 | av网站播放| 欧美男女爱爱视频 | 国产精品久久婷婷六月丁香 | 久久久综合| 天天综合网久久 | 色网站免费在线观看 | 婷婷丁香色综合狠狠色 | 欧美另类xxxx | 久久婷婷国产 | 超碰人人在线 | av在线之家电影网站 | 成年人看片网站 | 久久久久久久久久久免费视频 | 亚洲视频精选 | www色网站 | 操一草| 久久公开视频 | 在线色资源| 亚洲黄色免费网站 | 久草视频精品 | 日韩不卡高清 | 天天操天天色天天 | 91超级碰碰| 91麻豆免费看 | 婷婷综合 | 91九色视频导航 | 三级av片| 欧美俄罗斯性视频 | 欧美性大胆 | 日日爽 | 99高清视频有精品视频 | 天天干天天综合 | 精品极品在线 | 91免费观看| 天天操夜夜操国产精品 | 日本性高潮视频 | 夜夜骑天天操 | 97综合网| 午夜影视一区 | 一区二区视频播放 | 91日韩在线播放 | 日批视频在线 | 色在线视频网 | 亚洲区视频在线 | 亚州人成在线播放 | 国产视频在线观看免费 | 视频在线观看入口黄最新永久免费国产 | 9999在线 | 国产精品毛片久久久久久久久久99999999 | 免费午夜av | 色综合久久久网 | 国产精品成人一区二区 | 福利区在线观看 | 成人黄色片免费 | 国产亚洲一区 | 午夜久草 | 日日夜夜网| 欧美一区成人 | 国产又粗又猛又爽又黄的视频先 | 六月丁香婷婷网 | 在线免费观看欧美日韩 | 婷婷精品在线视频 | 91在线播放视频 | 久久久久久久久久久久久久免费看 | 狠狠88综合久久久久综合网 | 国产精品久久久久久久免费观看 | 日韩午夜av| 伊人日日干| 黄色av免费电影 | 国产91在线观 | 人人干人人添 | 国产乱码精品一区二区三区介绍 | 久久免费电影网 | 欧美日韩中字 | 色黄久久久久久 | 国产一区 在线播放 | 日本韩国精品在线 | 爱干视频 | 精品一区二区免费视频 | 四虎精品成人免费网站 | 超碰在线网 | 91视频免费 | 免费福利在线观看 | 中文字幕91视频 | 国产精品高潮呻吟久久av无 | 欧美日韩国产在线精品 | 91精品国产乱码久久桃 | 国产原厂视频在线观看 | 超碰免费观看 | 亚洲天堂色婷婷 | 国产亚洲精品精品精品 | 五月婷婷综合在线视频 | 亚洲 在线| 三级黄免费看 | 91一区在线观看 | 亚洲伦理一区二区 | 国产成人精品av | 久久av中文字幕片 | 亚洲深爱激情 | 亚洲九九影院 | 免费日韩视频 | 天天插天天狠 | 国产精品美女久久久久久久网站 | 日韩视频中文字幕在线观看 | 四虎在线视频免费观看 | 久久精品伊人 | 欧美成人手机版 | 最近免费在线观看 | 免费看一级特黄a大片 | 少妇bbw揉bbb欧美 | 激情自拍av | 69精品人人人人 | 亚洲综合在线播放 | 久久精品视频中文字幕 | www日韩欧美| 精品国产伦一区二区三区观看体验 | 久久免费视频4 | 中文字幕超清在线免费 | 久久久久国产精品一区二区 | 亚洲视频aaa | 天天久久综合 | 日日日爽爽爽 | 99久久精品网 | 色999五月色 | 国产一区福利在线 | 精品久久免费看 | 麻豆传媒精品 | 91看片淫黄大片一级在线观看 | 免费网站观看www在线观看 | 色视频 在线 | 国产永久网站 | 国产黄色大全 | 99这里都是精品 | 欧美国产日韩一区二区三区 | 伊人久操 | 免费在线观看成人av | 国产一区二区在线免费观看 | 国产精品久久一区二区三区不卡 | 成人免费电影 | 久久狠狠婷婷 | 精品久久久久久综合 | 久久精品视频网 | 9在线观看免费高清完整 | 精品国产一区二区三区久久久蜜月 | 狠狠插狠狠干 | 一区二区三区观看 | 国产一区在线视频 | 成人午夜免费福利 | 亚洲国产精品500在线观看 | 99精品免费 | 九九视频精品在线 | 九热精品 | 岛国大片免费视频 | 久久99视频免费 | 免费在线观看一区二区三区 | 亚洲精品 在线视频 | 正在播放 国产精品 | 九九精品视频在线观看 | 欧美疯狂性受xxxxx另类 | 免费看的黄色录像 | 日韩在线第一区 | 人人干干人人 | 久久久久久免费毛片精品 | 欧美福利片在线观看 | 国产精品一区二区三区四 | 欧美乱码精品一区 | 偷拍久久久 | 亚洲欧洲xxxx| japanesexxxhd奶水 91在线精品一区二区 | 在线国产日本 | 狠狠躁夜夜躁人人爽超碰97香蕉 | 婷婷久久网| 国产成人精品亚洲日本在线观看 | 亚洲婷婷综合色高清在线 | 伊人天天干 | 日韩com| 国产日本在线播放 | 亚洲日本一区二区在线 | 色片网站在线观看 | 久久免费福利 | 国产原创在线观看 | 国产精品久久久久久久久久新婚 | 久久视频在线免费观看 | 一区二区欧美在线观看 | 国产精品丝袜久久久久久久不卡 | 成人在线播放视频 | 91毛片在线观看 | 免费观看性生交大片3 | 国内精品久久久久久 | 精品播放 | 黄色大片免费网站 | 欧美成年人在线观看 | 成人97视频一区二区 | 午夜黄色影院 | 最近的中文字幕大全免费版 | 在线观看中文字幕dvd播放 | av免费网页 | 久久精品一二三区白丝高潮 | 日本二区三区在线 | 亚洲国产视频a | 中文网丁香综合网 | 欧美日高清视频 | 成人免费影院 | 午夜.dj高清免费观看视频 | 精品久久久一区二区 | 天天爱天天操天天干 | 波多野结衣久久资源 | 国产又粗又猛又黄 | 日韩v欧美v日本v亚洲v国产v | 欧美 另类 交| 欧美精品中文在线免费观看 | a色视频 | 亚洲成av人影院 | 91桃色国产在线播放 | 欧美精品乱码久久久久久按摩 | 国产一区二区三区免费在线观看 | 99视频免费在线观看 | 精品一区二区日韩 | 免费看的黄色 | 黄网站色欧美视频 | 久久综合亚洲鲁鲁五月久久 | 制服丝袜一区二区 | 精品久久久久久久久久久久 | 国产精品久久久久久久久久99 | www黄色软件| 欧美激情精品久久久久久免费印度 | 免费黄在线观看 | 久久久免费av| 女人18片| 欧美一级片免费观看 | av电影免费看 | 黄色网址国产 | 97成人超碰 | 四虎影视成人永久免费观看亚洲欧美 | 日本久久久久久久久久久 | 国产视频一区二区在线观看 | 精品国产一区二区三区四区vr | 国产精品黄色 | 91亚洲狠狠婷婷综合久久久 | 91片在线观看 | 亚洲午夜久久久影院 | 久久久久久久久久久国产精品 | 激情综合网五月 | 精品一区二区三区电影 | 久久理论电影网 | 国产精品网红直播 | 91福利视频免费观看 | 99久久精品免费 | 久久午夜电影网 | 久免费视频 | 91视频在线看 | 亚洲天天在线日亚洲洲精 | 在线观看免费av网站 | 91人人澡人人爽人人精品 | 又黄又爽又无遮挡的视频 | 毛片一二区 | 丝袜美腿在线视频 | 国产精品女同一区二区三区久久夜 | 麻豆精品在线 | 免费黄色在线网站 | 免费在线观看一级片 | 国产成年免费视频 | 97超碰在线人人 | 亚州国产精品视频 | 久久久久久久久电影 | 91成人国产 | 亚洲精品一区二区三区高潮 | 国产又粗又猛又爽又黄的视频先 | 精品久久久久免费极品大片 | 99r精品视频在线观看 | 久草香蕉在线 | 97国产精品| 91黄视频在线观看 | 国产日韩欧美在线一区 | 久久婷婷网 | 国产免费久久 | 久久精品久久99 | 久久在线免费观看视频 | 深爱激情五月网 | 中文字幕在线观看视频网站 | 中文字幕在线成人 | 国产精品久久婷婷六月丁香 | 天天艹天天 | 人人超碰人人 | 久久久www成人免费毛片麻豆 | 国产一级片观看 | 日韩欧美高清 | 久久经典国产 | 亚洲综合在线五月 | 欧美日韩一区久久 | 久久久久久久久久久久久影院 | 免费视频xnxx com | 亚洲精品国偷拍自产在线观看蜜桃 | 丁香婷婷基地 | 欧美狠狠操 | 欧美日韩中文国产一区发布 | 九九精品久久久 | 波多野结衣动态图 | 日韩午夜大片 | 91看片在线 | 天天操天天添 | 成片免费观看视频大全 | 少妇精69xxtheporn | 成人国产网站 | 欧美精品久久久久久久久久白贞 | 狠狠色丁香久久婷婷综合丁香 | 日韩精品视频免费专区在线播放 | 成人黄色电影在线观看 | 久草免费手机视频 | 国产精品久久久久久久久久白浆 | 欧美在线观看视频一区二区三区 | 国产中的精品av小宝探花 | 99精品国产99久久久久久97 | 国产女做a爱免费视频 | 久久99精品久久久久久清纯直播 | 在线观看成人 | 日韩午夜小视频 | 日本黄区免费视频观看 | 中文字幕有码在线观看 | 久久国内视频 | 一区国产精品 | 九九久久影视 | 日韩天堂在线观看 | 日韩av影视在线 | 香蕉视频免费看 | 3d黄动漫免费看 | 日韩a在线| 片网址| 国产在线观看h | 国产精品区二区三区日本 | 亚洲综合视频在线 | 奇米影视777四色米奇影院 | 婷婷丁香狠狠爱 | 亚洲综合爱 | 一区二区视频播放 | 天天躁日日躁狠狠躁av麻豆 | 亚洲国内精品视频 | 三级av中文字幕 | 97视频在线看 | 国内综合精品午夜久久资源 | 久久久久久久久久久久99 | 精品99免费视频 | 亚洲精品大全 | av亚洲产国偷v产偷v自拍小说 | 99久久婷婷 | 婷婷丁香七月 | 99久久精品国产免费看不卡 | 五月婷婷激情综合 | av在线日韩 | 91av在线电影 | 国产在线看一区 | 精品久久网站 | 久射网 | 亚洲专区一二三 | 免费高清av在线看 | 黄色国产成人 | 亚洲人久久 | 黄色大片视频网站 | 激情五月看片 | 97在线精品视频 | 香蕉视频在线看 | 毛片永久新网址首页 | 在线观看亚洲免费视频 | 美女黄频在线观看 | 97视频在线观看播放 | 国产流白浆高潮在线观看 | 亚洲精品理论片 | 精品电影一区 | 久久九九网站 | 免费看的国产视频网站 | 免费av网站在线看 |