LVS负载均衡：三种工作模式、十种调度算法
一、LVS簡介
二、三種工作模式的解析
? ? ??2.1 基于NAT的LVS模式負載均衡
? ? ??2.2 基于TUN的LVS負載均衡
? ? ??2.3 基于DR的LVS負載均衡
三、LVS負載均衡調度算法
? ? ??3.1?靜態調度（4種算法）：
? ? ??? ? ??1.輪詢調度
? ? ??? ? ??2.加權輪詢調度
? ? ??? ? ??3.目標地址散列調度
? ? ?????????? ? ??4.源地址散列調度
???????? ? ??3.2 動態調度（6種算法）：??????
???????? ? ?????????? ? ??1.最小連接調度
???????? ? ?????????? ? ??2.加權最小連接調度
???????? ? ?????????? ? ??3.基于局部的最少連接
???????? ? ?????????? ? ??4.帶復制的基于局部性的最少連接
???????? ? ?????????? ? ??5.最短的期望的延遲
???????? ? ?????????? ? ??6.最少隊列調度
一、LVS簡介
???????LVS（Linux Virtual Server）即Linux虛擬服務器，是由章文嵩博士主導的開源負載均衡項目，目前LVS已經被集成到Linux內核模塊中。
? ? ? ?該項目在Linux內核中實現了基于IP的數據請求負載均衡調度方案，其體系結構如圖1所示。
? ? ? ?終端互聯網用戶從外部訪問公司的外部負載均衡服務器，終端用戶的Web請求會發送給LVS調度器，調度器根據自己預設的算法決定將該請求發送給后端的某臺Web服務器，比如，輪詢算法可以將外部的請求平均分發給后端的所有服務器，終端用戶訪問LVS調度器雖然會被轉發到后端真實的服務器，但如果真實服務器連接的是相同的存儲，提供的服務也是相同的服務，最終用戶不管是訪問哪臺真實服務器，得到的服務內容都是一樣的，整個集群對用戶而言都是透明的。
? ? ??最后根據LVS工作模式的不同，真實服務器會選擇不同的方式將用戶需要的數據發送到終端用戶，LVS工作模式分為NAT模式、TUN模式、以及DR模式。
二、三種工作模式的解析。
2.1 基于NAT的LVS模式負載均衡
? ? ? ?NAT（Network Address Translation）即網絡地址轉換，其作用是通過數據報頭的修改，使得位于企業內部的私有IP地址可以訪問外網，以及外部用用戶可以訪問位于公司內部的私有IP主機。
??????????????? ? ? ?VS/NAT工作模式拓撲結構如圖2所示，LVS負載調度器可以使用兩塊網卡配置不同的IP地址，eth0設置為私鑰IP與內部網絡通過交換設備相互連接，eth1設備為外網IP與外部網絡聯通。
???????第一步，用戶通過互聯網DNS服務器解析到公司負載均衡設備上面的外網地址，相對于真實服務器而言，LVS外網IP又稱VIP（Virtual IP Address），用戶通過訪問VIP，即可連接后端的真實服務器（Real Server），而這一切對用戶而言都是透明的，用戶以為自己訪問的就是真實服務器，但他并不知道自己訪問的VIP僅僅是一個調度器，也不清楚后端的真實服務器到底在哪里、有多少真實服務器。
???????第二步，用戶將請求發送至124.126.147.168，此時LVS將根據預設的算法選擇后端的一臺真實服務器（192.168.0.1~192.168.0.3），將數據請求包轉發給真實服務器，并且在轉發之前LVS會修改數據包中的目標地址以及目標端口，目標地址與目標端口將被修改為選出的真實服務器IP地址以及相應的端口。
???????第三步，真實的服務器將響應數據包返回給LVS調度器，調度器在得到響應的數據包后會將源地址和源端口修改為VIP及調度器相應的端口，修改完成后，由調度器將響應數據包發送回終端用戶，另外，由于LVS調度器有一個連接Hash表，該表中會記錄連接請求及轉發信息，當同一個連接的下一個數據包發送給調度器時，從該Hash表中可以直接找到之前的連接記錄，并根據記錄信息選出相同的真實服務器及端口信息。
2.2 基于TUN的LVS負載均衡
? ? ? ?在LVS（NAT）模式的集群環境中，由于所有的數據請求及響應的數據包都需要經過LVS調度器轉發，如果后端服務器的數量大于10臺，則調度器就會成為整個集群環境的瓶頸。
???????我們知道，數據請求包往往遠小于響應數據包的大小。因為響應數據包中包含有客戶需要的具體數據，所以LVS（TUN）的思路就是將請求與響應數據分離，讓調度器僅處理數據請求，而讓真實服務器響應數據包直接返回給客戶端。
???????VS/TUN工作模式拓撲結構如圖3所示。其中，IP隧道（IP tunning）是一種數據包封裝技術，它可以將原始數據包封裝并添加新的包頭（內容包括新的源地址及端口、目標地址及端口），從而實現將一個目標為調度器的VIP地址的數據包封裝，通過隧道轉發給后端的真實服務器（Real Server），
???????? ? ? ?通過將客戶端發往調度器的原始數據包封裝，并在其基礎上添加新的數據包頭（修改目標地址為調度器選擇出來的真實服務器的IP地址及對應端口），LVS（TUN）模式要求真實服務器可以直接與外部網絡連接，真實服務器在收到請求數據包后直接給客戶端主機響應數據。
2.3 基于DR的LVS負載均衡
? ? ? ?在LVS（TUN）模式下，由于需要在LVS調度器與真實服務器之間創建隧道連接，這同樣會增加服務器的負擔。與LVS（TUN）類似，DR模式也叫直接路由模式，其體系結構如圖4所示，
???????? ? ? ?該模式中LVS依然僅承擔數據的入站請求以及根據算法選出合理的真實服務器，最終由后端真實服務器負責將響應數據包發送返回給客戶端。
???????? ? ? ?與隧道模式不同的是，直接路由模式（DR模式）要求調度器與后端服務器必須在同一個局域網內，VIP地址需要在調度器與后端所有的服務器間共享，因為最終的真實服務器給客戶端回應數據包時需要設置源IP為VIP地址，目標IP為客戶端IP，這樣客戶端訪問的是調度器的VIP地址，回應的源地址也依然是該VIP地址（真實服務器上的VIP），客戶端是感覺不到后端服務器存在的。
???????由于多臺計算機都設置了同樣一個VIP地址，所以在直接路由模式中要求調度器的VIP地址是對外可見的，客戶端需要將請求數據包發送到調度器主機，而所有的真實服務器的VIP地址必須配置在 Non-ARP 的網絡設備上，也就是該網絡設備并不會向外廣播自己的MAC及對應的IP地址，真實服務器的VIP對外界是不可見的，但真實服務器卻可以接受目標地址VIP的網絡請求，并在回應數據包時將源地址設置為該VIP地址。
??????????????? ? ? ?調度器根據算法在選出真實服務器后，在不修改數據報文的情況下，將數據幀的MAC地址修改為選出的真實服務器的MAC地址，通過交換機將該數據幀發給真實服務器。整個過程中，真實服務器的VIP不需要對外界可見。
三、LVS負載均衡調度算法
??????根據前面的介紹，我們了解了LVS的三種工作模式，但不管實際環境中采用的是哪種模式，調度算法進行調度的策略與算法都是LVS的核心技術，LVS在內核中主要實現了一下十種調度算法。
???????十種調度算法，又分為兩類，靜態調度和動態調度。
一、靜態調度，根據算法本身進行調度
二、動態調度，根據算法及各RS的當前負載狀態進行調度
3.1?靜態調度（4種算法）：
1.輪詢調度
輪詢調度（Round Robin 簡稱'RR'）算法就是按依次循環的方式將請求調度到不同的服務器上，該算法最大的特點就是實現簡單。輪詢算法假設所有的服務器處理請求的能力都一樣的，調度器會將所有的請求平均分配給每個真實服務器。
2.加權輪詢調度
加權輪詢（Weight Round Robin 簡稱'WRR'）算法主要是對輪詢算法的一種優化與補充，LVS會考慮每臺服務器的性能，并給每臺服務器添加一個權值，如果服務器A的權值為1，服務器B的權值為2，則調度器調度到服務器B的請求會是服務器A的兩倍。權值越高的服務器，處理的請求越多。
加權輪詢算法（Weighted Round-Robin Scheduling）是以輪叫的方式、依次請求調度不同的服務器。加權輪詢調度算法可以解決服務器間性能不一的情況，它用相應的權值表示服務器的處理性能，按權值的高低和輪詢方式分配請求到各服務器。加權輪詢算法根據新建連接數來調度，權值高的服務器先收到連接，權重值越高被輪詢到的次數（概率）也越高，相同權值的服務器處理相同數目的連接數。
- 優勢：簡潔實用，無需記錄當前所有連接的狀態，是一種無狀態調度。
- 劣勢：相對簡單，在請求服務時間變化較大或每個請求消耗時間不一致的情況下，容易導致服務器間的負載不平衡。
- 適用場景：當每個請求所占用的后端時間基本相同時，負載情況最好。常用于短連接服務，例如 HTTP 等。
- 用戶推薦：已知每個請求所占用后端時間基本相同、后端服務器處理的請求類型相同或者相似時，推薦您選擇加權輪詢的方式。請求時間相差較小時，也推薦您使用加權輪詢的方式，因為該實現方式消耗小，無需遍歷，效率較高。
3.目標地址散列調度
目標地址散列調度（Destination Hashing 簡稱'DH'）算法先根據請求的目標IP地址，作為散列鍵（Hash Key）從靜態分配的散列表找出對應的服務器，若該服務器是可用的且并未超載，將請求發送到該服務器，否則返回空。
4.源地址散列調度
源地址散列調度（Source Hashing??簡稱'SH'）算法先根據請求的源IP地址，作為散列鍵（Hash Key）從靜態分配的散列表找出對應的服務器，若該服務器是可用的且并未超載，將請求發送到該服務器，否則返回空。它采用的散列函數與目標地址散列調度算法的相同，它的算法流程與目標地址散列調度算法的基本相似。
???????源地址散列調度算法（ip_hash）根據請求的源 IP 地址，使用散列鍵（Hash Key）從靜態分配的散列表找出對應的服務器，若該服務器為可用且未超載狀態，則請求發送到該服務器，反之則返回空。
- 優勢：可以使某一客戶端的請求通過哈希表一直映射在同一臺后端服務器上，在不支持會話保持的場景中，可以使用 ip_hash 實現簡單的會話保持。
- 用戶推薦：將請求的源地址進行哈希運算，并結合后端服務器的權重，派發請求至某匹配的服務器，使得同一客戶端 IP 的請求始終被派發至某特定的服務器。該方式適合無 cookie 功能的 TCP 協議。
3.2 動態調度（6種算法）：
1.最小連接調度
最小連接調度（Least Connections 簡稱'LC'）算法是把新的連接請求分配到當前連接數最小的服務器。最小連接調度是一種動態的調度算法，它通過服務器當前活躍的連接數來估計服務器的情況。調度器需要記錄各個服務器已建立連接的數目，當一個請求被調度到某臺服務器，其連接數加1；當連接中斷或者超時，其連接數減1。
???????（集群系統的真實服務器具有相近的系統性能，采用最小連接調度算法可以比較好地均衡負載。)
2.加權最小連接調度
加權最少連接（Weight Least Connections 簡稱'WLC'）算法是最小連接調度的超集，各個服務器相應的權值表示其處理性能。服務器的缺省權值為1，系統管理員可以動態地設置服務器的權值。加權最小連接調度在調度新連接時盡可能使服務器的已建立連接數和其權值成比例。調度器可以自動問詢真實服務器的負載情況，并動態地調整其權值。
???????在實際情況中，客戶端的請求服務在服務器停留的時間會有較大的差異。隨著工作時間的延伸，采用簡單的輪詢或隨機均衡算法，每臺服務器上的連接進程數目可能會有極大的不同，導致沒有達到真正的負載均衡。
最小連接調度是一種動態調度算法，與輪詢調度算法相反，它通過服務器當前所活躍的連接數來估計服務器的負載情況。調度器需要記錄各個服務器已建立連接的數目，當一個請求被調度到某臺服務器時，其連接數加一; 當連接中止或超時，其連接數減一。
???????加權最小連接數算法（Weighted Least-Connection Scheduling）是在最小連接數調度算法的基礎上，根據服務器的不同處理能力，給每個服務器分配不同的權值，使其能夠接受相應權值數的服務請求，是在最小連接數調度算法的基礎上的改進。
說明：
假設各臺后端服務器的權值依次為 wi，當前連接數依次為 ci,依次計算 ci/wi,值最小的后端服務器實例作為下一個分配的實例。如果存在 ci/wi 相同的后端服務器實例，再使用加權輪詢的方式調度。
- 優勢：此算法適合長時處理的請求服務，如 FTP 等應用。
- 劣勢：由于接口限制，目前最小連接數和會話保持功能不能同時開啟。
- 適用場景：每個請求所占用的后端時間相差較大的場景。常用于長連接服務。
- 用戶推薦：如果用戶需要處理不同的請求，且請求所占用后端時間相差較大，如3ms和3s等數量級差距，推薦使用加權最小連接數算法，實現負載均衡。
3.基于局部的最少連接
基于局部的最少連接調度（Locality-Based Least Connections 簡稱'LBLC'）算法是針對請求報文的目標IP地址的 負載均衡調度，目前主要用于Cache集群系統，因為在Cache集群客戶請求報文的目標IP地址是變化的。這里假設任何后端服務器都可以處理任一請求，算法的設計目標是在服務器的負載基本平衡情況下，將相同目標IP地址的請求調度到同一臺服務器，來提高各臺服務器的訪問局部性和Cache命中率，從而提升整個集群系統的處理能力。
???????LBLC調度算法先根據請求的目標IP地址找出該目標IP地址最近使用的服務器，若該服務器是可用的且沒有超載，將請求發送到該服務器；若服務器不存在，或者該服務器超載且有服務器處于一半的工作負載，則使用'最少連接'的原則選出一個可用的服務器，將請求發送到服務器。
4.帶復制的基于局部性的最少連接
帶復制的基于局部性的最少連接（Locality-Based Least Connections with Replication??簡稱'LBLCR'）算法也是針對目標IP地址的負載均衡，目前主要用于Cache集群系統，它與LBLC算法不同之處是它要維護從一個目標IP地址到一組服務器的映射，而LBLC算法維護從一個目標IP地址到一臺服務器的映射。
???????按'最小連接'原則從該服務器組中選出一一臺服務器，若服務器沒有超載，將請求發送到該服務器；若服務器超載，則按'最小連接'原則從整個集群中選出一臺服務器，將該服務器加入到這個服務器組中，將請求發送到該服務器。同時，當該服務器組有一段時間沒有被修改，將最忙的服務器從服務器組中刪除，以降低復制的程度。
5.最短的期望的延遲
最短的期望的延遲調度（Shortest Expected Delay 簡稱'SED'）算法基于WLC算法。舉個例子吧，ABC三臺服務器的權重分別為1、2、3 。那么如果使用WLC算法的話一個新請求進入時它可能會分給ABC中的任意一個。使用SED算法后會進行一個運算
A：（1+1）/1=2???B：（1+2）/2=3/2???C：（1+3）/3=4/3???就把請求交給得出運算結果最小的服務器。
6.最少隊列調度
最少隊列調度（Never Queue 簡稱'NQ'）算法，無需隊列。如果有realserver的連接數等于0就直接分配過去，不需要在進行SED運算。
總結
以上是生活随笔為你收集整理的LVS负载均衡：三种工作模式、十种调度算法的全部內容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： 知识图谱是什么？
- 下一篇： IO虚拟化——virtio 原理