柚子快報激活碼778899分享：運(yùn)維 5、架構(gòu)-負(fù)載均衡

http://yzkb.51969.com/

????????在互聯(lián)網(wǎng)時代的早期，網(wǎng)站流量還相對較小，業(yè)務(wù)也相對簡單， 單臺服務(wù)器便可滿足訪問需要，但時至今日，互聯(lián)網(wǎng)應(yīng)用也好，企業(yè) 級應(yīng)用也好，一般實際用于生產(chǎn)的系統(tǒng)，幾乎都離不開集群部署。信 息系統(tǒng)不論是單體架構(gòu)多副本還是微服務(wù)架構(gòu)，不論是為了實現(xiàn)高可 用還是為了獲得高性能，都需要利用多臺機(jī)器來擴(kuò)展服務(wù)能力，希望 用戶的請求不管連接到哪臺機(jī)器上，都能得到相同的處理。另一方 面，如何構(gòu)建和調(diào)度服務(wù)集群這件事，又必須對用戶保持足夠的透 明，即使請求背后是由一千臺、一萬臺機(jī)器來共同響應(yīng)的，也無須用 戶關(guān)心，他們只需要記住一個域名地址即可。調(diào)度后方的多臺機(jī)器， 以統(tǒng)一的接口對外提供服務(wù)，承擔(dān)此職責(zé)的技術(shù)組件被稱為“負(fù)載均 衡”（Load Balancing）。

????????真正大型系統(tǒng)的負(fù)載均衡過程往往是多級的。譬如，在各地建有 多個機(jī)房，或機(jī)房有不同網(wǎng)絡(luò)鏈路入口的大型互聯(lián)網(wǎng)站，會從DNS解析 開始，通過“域名”→“CNAME”→“負(fù)載調(diào)度服務(wù)”→“就近的數(shù)據(jù) 中心入口”的路徑，先將來訪地用戶根據(jù)IP地址（或者其他條件）分 配到一個合適的數(shù)據(jù)中心中，然后才到各式負(fù)載均衡。在DNS層面的負(fù) 載均衡與前面介紹的DNS智能線路、內(nèi)容分發(fā)網(wǎng)絡(luò)等在工作原理上是類 似的，差別只是數(shù)據(jù)中心能提供的不只是緩存，而是全方位的服務(wù)能 力。由于這種方式此前已經(jīng)詳細(xì)講解過，后續(xù)我們所討論的“負(fù)載均 衡”就只聚焦于網(wǎng)絡(luò)請求進(jìn)入數(shù)據(jù)中心入口之后的其他級次的負(fù)載均 衡。

????????無論在網(wǎng)關(guān)內(nèi)部建立了多少級的負(fù)載均衡，從形式上來說都可以 分為兩種：四層負(fù)載均衡和七層負(fù)載均衡。在詳細(xì)介紹它們是什么以 及如何工作之前，我們先來建立兩個總體的、概念性的印象。

四層負(fù)載均衡的優(yōu)勢是性能高，七層負(fù)載均衡的優(yōu)勢是功能 強(qiáng)。做多級混合負(fù)載均衡，通常應(yīng)是低層負(fù)載均衡在前，高層負(fù)載 均衡在后

我們所說的“四層”“七層”指的是經(jīng)典的OSI七層模型中的第四 層傳輸層和第七層應(yīng)用層。

應(yīng)用層負(fù)載均衡

?????????前面介紹的四層負(fù)載均衡工作模式都屬于“轉(zhuǎn)發(fā)”，即直接將承 載著TCP報文的底層數(shù)據(jù)格式（IP數(shù)據(jù)包或以太網(wǎng)幀）轉(zhuǎn)發(fā)到真實服務(wù) 器上，此時客戶端與響應(yīng)請求的真實服務(wù)器維持著同一條TCP通道。但 工作在四層之后的負(fù)載均衡模式就無法再轉(zhuǎn)發(fā)了，只能代理，此時真 實服務(wù)器、負(fù)載均衡器、客戶端三者之間由兩條獨立的TCP通道來維持 通信。

?????????“代理”這個詞，根據(jù)“哪一方能感知到”的原則，可以分為 “正向代理”“反向代理”和“透明代理”三類。

正向代理就是我們 通常簡稱的代理，指在客戶端設(shè)置的，代表客戶端與服務(wù)器通信的代 理服務(wù)，它是客戶端可知，而對服務(wù)器透明的。反向代理是指在服務(wù) 器側(cè)設(shè)置的，代表真實服務(wù)器與客戶端通信的代理服務(wù)，此時它對客 戶端來說是透明的。透明代理是指對雙方都透明的，配置在網(wǎng)絡(luò) 中間設(shè)備上的代理服務(wù)，譬如，架設(shè)在路由器上的透明翻墻代理。

????????根據(jù)以上定義，很顯然，七層負(fù)載均衡器屬于反向代理的一種。 如果只論網(wǎng)絡(luò)性能，七層負(fù)載均衡器肯定比不過四層負(fù)載均衡器，它 比四層負(fù)載均衡器至少多一輪TCP握手，有著跟NAT轉(zhuǎn)發(fā)模式一樣的帶 寬問題，而且通常要耗費(fèi)更多的CPU，因為可用的解析規(guī)則遠(yuǎn)比四層豐 富。所以如果用七層負(fù)載均衡器去做下載站、視頻站這種流量應(yīng)用是 不合適的，起碼不能作為第一級均衡器。但是，如果網(wǎng)站的性能瓶頸 不是網(wǎng)絡(luò)性能，而是整個服務(wù)集群對外所體現(xiàn)出來的服務(wù)性能，那么 七層負(fù)載均衡器就有它的用武之地了。因為七層負(fù)載均衡器工作在應(yīng) 用層，可以感知應(yīng)用層通信的具體內(nèi)容，往往能夠做出更明智的決 策，玩出更多的花樣。 舉個生活中的例子，四層負(fù)載均衡器就像銀行的自助排號機(jī)，轉(zhuǎn) 發(fā)效率高且不知疲倦，每一個到達(dá)銀行的客戶根據(jù)排號機(jī)的順序，選 擇對應(yīng)的窗口接受服務(wù)；而七層負(fù)載均衡器就像銀行大堂經(jīng)理，他會 先確認(rèn)客戶需要辦理的業(yè)務(wù)，再安排排號。對于理財、存取款等業(yè) 務(wù)，大堂經(jīng)理會根據(jù)銀行內(nèi)部資源進(jìn)行統(tǒng)一協(xié)調(diào)處理，以加快客戶業(yè) 務(wù)辦理流程；而對于無須柜臺辦理的業(yè)務(wù)，大堂經(jīng)理會直接自行處 理?；氐狡邔迂?fù)載均衡器中，反向代理能夠?qū)崿F(xiàn)靜態(tài)資源緩存，所以 對于靜態(tài)資源的請求，反向代理會直接返回，而無須轉(zhuǎn)發(fā)到真實服務(wù) 器。

均衡策略與實現(xiàn)

????????負(fù)載均衡的兩大職責(zé)是“選擇誰來處理用戶請求”和“將用戶請 求轉(zhuǎn)發(fā)過去”。前面我們僅介紹了后者，即請求的轉(zhuǎn)發(fā)或代理過程。 前者是指均衡器所采取的均衡策略，由于這一塊涉及的均衡算法太 多，筆者無法逐一展開，所以本節(jié)僅從功能和應(yīng)用的角度去介紹一些 常見的均衡策略。

輪詢均衡（Round Robin）：每一次來自網(wǎng)絡(luò)的請求輪流分配給 內(nèi)部的服務(wù)器，從1至N然后重新開始。此種均衡算法適合于服務(wù)器集 群中的所有服務(wù)器都有相同的軟硬件配置并且平均服務(wù)請求相對均衡 的情況。權(quán)重輪詢均衡（Weighted Round Robin）：根據(jù)服務(wù)器的不同處 理能力，給每個服務(wù)器分配不同的權(quán)值，使其能夠接受相應(yīng)權(quán)值數(shù)的 服務(wù)請求。譬如：設(shè)置服務(wù)器A的權(quán)值為1，B的權(quán)值為3，C的權(quán)值為 6，則服務(wù)器A、B、C將分別接收到10%、30%、60%的服務(wù)請求。此 種均衡算法能確保高性能的服務(wù)器得到更多的使用率，避免低性能的 服務(wù)器負(fù)載過重。隨機(jī)均衡（Random）：把來自客戶端的請求隨機(jī)分配給內(nèi)部的 多個服務(wù)器，在數(shù)據(jù)量足夠大的場景下能達(dá)到相對均衡的分布。權(quán)重隨機(jī)均衡（Weighted Random）：此種均衡算法類似于權(quán)重 輪詢算法，不過在分配處理請求時是隨機(jī)選擇的過程。一致性哈希均衡（Consistency Hash）：將請求中的某些數(shù)據(jù) （可以是MAC、IP地址，也可以是更上層協(xié)議中的某些參數(shù)信息）作 為特征值來計算需要落在的節(jié)點，算法一般會保證同一個特征值每次 都一定落在相同的服務(wù)器上。這里的一致性是指保證當(dāng)服務(wù)集群某個 真實服務(wù)器出現(xiàn)故障時，只影響該服務(wù)器的哈希值，而不會導(dǎo)致整個 服務(wù)器集群的哈希鍵值重新分布。響應(yīng)速度均衡（Response Time）：負(fù)載均衡設(shè)備對內(nèi)部各服務(wù) 器發(fā)出一個探測請求（例如Ping），然后根據(jù)內(nèi)部各服務(wù)器對探測請 求的最快響應(yīng)時間來決定哪一臺服務(wù)器響應(yīng)客戶端的服務(wù)請求。此種 均衡算法能較好地反映服務(wù)器的當(dāng)前運(yùn)行狀態(tài)，但最快響應(yīng)時間僅僅 指的是負(fù)載均衡設(shè)備與服務(wù)器之間的最快響應(yīng)時間，而不是客戶端與 服務(wù)器之間的最快響應(yīng)時間。最少連接數(shù)均衡（Least Connection）：客戶端的每一次請求服 務(wù)在服務(wù)器停留的時間可能會有較大差異，隨著工作時間增加，如果 采用簡單的輪詢或隨機(jī)均衡算法，每一臺服務(wù)器上的連接進(jìn)程可能會 產(chǎn)生極大的不平衡，并不能達(dá)到真正的負(fù)載均衡。最少連接數(shù)均衡算 法會對內(nèi)部需負(fù)載的每一臺服務(wù)器有一個數(shù)據(jù)記錄，記錄當(dāng)前該服務(wù) 器正在處理的連接數(shù)量，當(dāng)有新的服務(wù)連接請求時，將把當(dāng)前請求分 配給連接數(shù)最少的服務(wù)器，使均衡更加符合實際情況，使負(fù)載更加均 衡。此種均衡策略適合長時處理的請求服務(wù)，如FTP傳輸。

? ? ? ? 從實現(xiàn)角度來看，負(fù)載均衡器的實現(xiàn)分為“軟件均衡器”和“硬 件均衡器”兩類。在軟件均衡器方面，又分為直接建設(shè)在操作系統(tǒng)內(nèi) 核的均衡器和應(yīng)用程序形式的均衡器兩種。前者的代表是LVS（Linux Virtual Server），后者的代表有Nginx、HAProxy、KeepAlived等。 前者性能會更好，因為無須在內(nèi)核空間和應(yīng)用空間中來回復(fù)制數(shù)據(jù) 包；而后者的優(yōu)勢是選擇廣泛，使用方便，功能不受限于內(nèi)核版本。

柚子快報激活碼778899分享：運(yùn)維 5、架構(gòu)-負(fù)載均衡

http://yzkb.51969.com/

參考文章