日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

负载均衡的那些事?

發布時間:2023/12/10 编程问答 27 豆豆
生活随笔 收集整理的這篇文章主要介紹了 负载均衡的那些事? 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

什么是負載均衡?

1、負載:就是后端系統的承載能力。比如同等條件下,一個1核cpu-1G內存的機器的承載能力一般會比8核cpu-8G內存的機器要差;相同配置下,一個cpu利用率為80%的機器比30%的承載能力一般要差等等。

2、均衡:保證后端請求的平衡。比如:在同等情況下,分配到多臺機器的請求要相當;有些情況下,同一用戶盡可能分配到同一臺機器等等。

為什么要有負載均衡呢?

很明顯,如果我們不去考慮后端的承載情況,有可能直接就把某臺機器壓垮了(比如cpu利用率已經80%了,再給大量的請求直接就干死了),更嚴重的會直接造成雪崩(一臺壓死了,對應的請求又壓倒其他某臺機器上,又干死一臺……),從而致使服務癱瘓。

2、如果我們均衡算法選的不好,就會導致后端資源浪費。比如:如果選擇一致Hash算法,可以很好利用cache的容量。而如果用隨機,有可能就會讓cache效果大打折扣(每臺機器上都要緩存幾乎相同的內容)。

負載均衡算法有哪些?

1輪詢法(Round Robin)

輪詢法是負載均衡中最常用的算法,它容易理解也容易實現。
輪詢法是指負載均衡服務器(load balancer)將客戶端請求按順序輪流分配到后端服務器上,以達到負載均衡的目的。
假設現在有6個客戶端請求,2臺后端服務器。當第一個請求到達負載均衡服務器時,負載均衡服務器會將這個請求分派到后端服務器1;當第二個請求到害時,負載均衡服務器會將這個請求分派到后端服務器2。然后第三個請求到達,由于只有兩臺后端服務器,故請求3會被分派到后端服務器1。

2加權輪詢法(Weighted Round Robin)

簡單的輪詢法并不考慮后端機器的性能和負載差異。給性能高、負載低的機器配置較高的權重,讓其處理較多的請求;而性能低、負載高的機器,配置較低的權重,讓其處理較少的請求。加權輪詢法可以很好地處理這一問題,它將請求順序且按照權重分派到后端服務器。
假設有6個客戶端請求,2臺后端服務器。后端服務器1被賦予權值5,后端服務器2被賦予賦予權值1。這樣一來,客戶端請求1,2,3,4,5都被分派到服務器1處理;客戶端請求6被分派到服務器2處理。接下來,請求7,8,9,10,11被分派到服務器1,請求12被分派到服務器2,依次類推。

3最小連接數法(Least Connections)

即使后端機器的性能和負載一樣,不同客戶端請求復雜度不一樣導致處理時間也不一樣。最小連接數法根據后端服務器當前的連接數情況,動態地選取其中積壓連接數最小的一臺服務器來處理當前的請求,盡可能提高后端服務器的利用效率,合理地將請求分流到每一臺服務器。
為什么根據連接數可以合理地利用服務器處理請求呢?
考慮一個客戶端請求的處理邏輯較復雜,需要服務器的處理時間較長,由于客戶端需要等待服務器的響應,故需要保持與服務器的連接,這樣一來,客戶端就需要與服務器保持較長時間的連接。

4隨機法(Random)

隨機法也很簡單,就是隨機選擇一臺后端服務器進行請求的處理。由于每次服務器被挑中的概率都一樣,客戶端的請求可以被均勻地分派到所有的后端服務器上。

5加權隨機法

與加權輪詢法一樣,加權隨機法也根據后端機器的配置,系統的負載分配不同的權重。不同的是,它是按照權重隨機請求后端服務器,而非順序。

6源地址哈希法(Source Hashing)

源地址哈希的思想是根據獲取客戶端的IP地址,通過哈希函數計算得到的一個數值,用該數值對服務器列表的大小進行取模運算,得到的結果便是客服端要訪問服務器的序號。采用源地址哈希法進行負載均衡,同一IP地址的客戶端,當后端服務器列表不變時,它每次都會映射到同一臺后端服務器進行訪問。
如果后端服務器是一緩存系統,當后端服務器增加或者減少時,采用簡單的哈希取模的方法,會使得命中率大大降低,這個問題可以采用一致性哈希的方法來解決。 關于一致性哈希的介紹,可以參考文件 五分鐘看懂一致性哈希算法



總結

以上是生活随笔為你收集整理的负载均衡的那些事?的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。