<kbd id="afajh"><form id="afajh"></form></kbd>
<strong id="afajh"><dl id="afajh"></dl></strong>
    <del id="afajh"><form id="afajh"></form></del>
        1. <th id="afajh"><progress id="afajh"></progress></th>
          <b id="afajh"><abbr id="afajh"></abbr></b>
          <th id="afajh"><progress id="afajh"></progress></th>

          大型服務(wù)的負(fù)載均衡詳解!

          共 4263字,需瀏覽 9分鐘

           ·

          2022-02-11 02:33


          相關(guān)閱讀

          300本計(jì)算機(jī)編程的經(jīng)典書籍下載

          AI全套:Python3+TensorFlow打造人臉識別智能小程序

          最新人工智能資料-Google工程師親授 Tensorflow-入門到進(jìn)階

          Java架構(gòu)全階段七期完整

          黑馬頭條項(xiàng)目 - Java Springboot2.0(視頻、資料、代碼和講義)14天完整版

          Spring核心編程思想

          2T架構(gòu)師學(xué)習(xí)資料干貨分享

          作者:layjoy
          來源:jianshu.com/p/215b5575107c

          面對大量用戶訪問、高并發(fā)請求,海量數(shù)據(jù),可以使用高性能的服務(wù)器、大型數(shù)據(jù)庫,存儲(chǔ)設(shè)備,高性能Web服務(wù)器,采用高效率的編程語言比如(Go,Scala)等,當(dāng)單機(jī)容量達(dá)到極限時(shí),我們需要考慮業(yè)務(wù)拆分和分布式部署,來解決大型網(wǎng)站訪問量大,并發(fā)量高,海量數(shù)據(jù)的問題。
          從單機(jī)網(wǎng)站到分布式網(wǎng)站,很重要的區(qū)別是業(yè)務(wù)拆分和分布式部署,將應(yīng)用拆分后,部署到不同的機(jī)器上,實(shí)現(xiàn)大規(guī)模分布式系統(tǒng)。分布式和業(yè)務(wù)拆分解決了,從集中到分布的問題,但是每個(gè)部署的獨(dú)立業(yè)務(wù)還存在單點(diǎn)的問題和訪問統(tǒng)一入口問題,為解決單點(diǎn)故障,我們可以采取冗余的方式。將相同的應(yīng)用部署到多臺(tái)機(jī)器上。解決訪問統(tǒng)一入口問題,我們可以在集群前面增加負(fù)載均衡設(shè)備,實(shí)現(xiàn)流量分發(fā)。負(fù)載均衡(Load Balance),意思是將負(fù)載(工作任務(wù),訪問請求)進(jìn)行平衡、分?jǐn)偟蕉鄠€(gè)操作單元(服務(wù)器,組件)上進(jìn)行執(zhí)行。是解決高性能,單點(diǎn)故障(高可用),擴(kuò)展性(水平伸縮)的終極解決方案。

          本文是負(fù)載均衡詳解的第一篇文章,介紹負(fù)載均衡的原理,負(fù)載均衡分類(DNS負(fù)載均衡,HTTP負(fù)載均衡,IP負(fù)載均衡,鏈路層負(fù)載均衡,混合型P負(fù)載均衡)。部分內(nèi)容摘自讀書筆記。

          一、負(fù)載均衡原理

          系統(tǒng)的擴(kuò)展可分為縱向(垂直)擴(kuò)展和橫向(水平)擴(kuò)展。縱向擴(kuò)展,是從單機(jī)的角度通過增加硬件處理能力,比如CPU處理能力,內(nèi)存容量,磁盤等方面,實(shí)現(xiàn)服務(wù)器處理能力的提升,不能滿足大型分布式系統(tǒng)(網(wǎng)站),大流量,高并發(fā),海量數(shù)據(jù)的問題。因此需要采用橫向擴(kuò)展的方式,通過添加機(jī)器來滿足大型網(wǎng)站服務(wù)的處理能力。比如:一臺(tái)機(jī)器不能滿足,則增加兩臺(tái)或者多臺(tái)機(jī)器,共同承擔(dān)訪問壓力。這就是典型的集群和負(fù)載均衡架構(gòu):如下圖:
          應(yīng)用集群:將同一應(yīng)用部署到多臺(tái)機(jī)器上,組成處理集群,接收負(fù)載均衡設(shè)備分發(fā)的請求,進(jìn)行處理,并返回相應(yīng)數(shù)據(jù)。
          負(fù)載均衡設(shè)備:將用戶訪問的請求,根據(jù)負(fù)載均衡算法,分發(fā)到集群中的一臺(tái)處理服務(wù)器。(一種把網(wǎng)絡(luò)請求分散到一個(gè)服務(wù)器集群中的可用服務(wù)器上去的設(shè)備)
          負(fù)載均衡的作用(解決的問題):

          1.解決并發(fā)壓力,提高應(yīng)用處理性能(增加吞吐量,加強(qiáng)網(wǎng)絡(luò)處理能力);
          2.提供故障轉(zhuǎn)移,實(shí)現(xiàn)高可用;
          3.通過添加或減少服務(wù)器數(shù)量,提供網(wǎng)站伸縮性(擴(kuò)展性);
          4.安全防護(hù);(負(fù)載均衡設(shè)備上做一些過濾,黑白名單等處理)

          二、負(fù)載均衡分類

          根據(jù)實(shí)現(xiàn)技術(shù)不同,可分為DNS負(fù)載均衡,HTTP負(fù)載均衡,IP負(fù)載均衡,鏈路層負(fù)載均衡等。

          2.1DNS負(fù)載均衡

          最早的負(fù)載均衡技術(shù),利用域名解析實(shí)現(xiàn)負(fù)載均衡,在DNS服務(wù)器,配置多個(gè)A記錄,這些A記錄對應(yīng)的服務(wù)器構(gòu)成集群。大型網(wǎng)站總是部分使用DNS解析,作為第一級負(fù)載均衡。如下圖:

          優(yōu)點(diǎn):

          使用簡單:負(fù)載均衡工作,交給DNS服務(wù)器處理,省掉了負(fù)載均衡服務(wù)器維護(hù)的麻煩
          提高性能:可以支持基于地址的域名解析,解析成距離用戶最近的服務(wù)器地址,可以加快訪問速度,改善性能;

          缺點(diǎn):
          可用性差:DNS解析是多級解析,新增/修改DNS后,解析時(shí)間較長;解析過程中,用戶訪問網(wǎng)站將失敗;
          擴(kuò)展性低:DNS負(fù)載均衡的控制權(quán)在域名商那里,無法對其做更多的改善和擴(kuò)展;
          維護(hù)性差:也不能反映服務(wù)器的當(dāng)前運(yùn)行狀態(tài);支持的算法少;不能區(qū)分服務(wù)器的差異(不能根據(jù)系統(tǒng)與服務(wù)的狀態(tài)來判斷負(fù)載)

          實(shí)踐建議:
          將DNS作為第一級負(fù)載均衡,A記錄對應(yīng)著內(nèi)部負(fù)載均衡的IP地址,通過內(nèi)部負(fù)載均衡將請求分發(fā)到真實(shí)的Web服務(wù)器上。一般用于互聯(lián)網(wǎng)公司,復(fù)雜的業(yè)務(wù)系統(tǒng)不合適使用。如下圖:

          2.3 IP負(fù)載均衡

          在網(wǎng)絡(luò)層通過修改請求目標(biāo)地址進(jìn)行負(fù)載均衡。
          用戶請求數(shù)據(jù)包,到達(dá)負(fù)載均衡服務(wù)器后,負(fù)載均衡服務(wù)器在操作系統(tǒng)內(nèi)核進(jìn)程獲取網(wǎng)絡(luò)數(shù)據(jù)包,根據(jù)負(fù)載均衡算法得到一臺(tái)真實(shí)服務(wù)器地址,然后將請求目的地址修改為,獲得的真實(shí)ip地址,不需要經(jīng)過用戶進(jìn)程處理。

          真實(shí)服務(wù)器處理完成后,響應(yīng)數(shù)據(jù)包回到負(fù)載均衡服務(wù)器,負(fù)載均衡服務(wù)器,再將數(shù)據(jù)包源地址修改為自身的ip地址,發(fā)送給用戶瀏覽器。如下圖:

          IP負(fù)載均衡,真實(shí)物理服務(wù)器返回給負(fù)載均衡服務(wù)器,存在兩種方式:
          (1)負(fù)載均衡服務(wù)器在修改目的ip地址的同時(shí)修改源地址。將數(shù)據(jù)包源地址設(shè)為自身盤,即源地址轉(zhuǎn)換(snat)。
          (2)將負(fù)載均衡服務(wù)器同時(shí)作為真實(shí)物理服務(wù)器集群的網(wǎng)關(guān)服務(wù)器。

          優(yōu)點(diǎn):
          (1)在內(nèi)核進(jìn)程完成數(shù)據(jù)分發(fā),比在應(yīng)用層分發(fā)性能更好;
          缺點(diǎn):
          (2)所有請求響應(yīng)都需要經(jīng)過負(fù)載均衡服務(wù)器,集群最大吞吐量受限于負(fù)載均衡服務(wù)器網(wǎng)卡帶寬;

          2.4 鏈路層負(fù)載均衡

          在通信協(xié)議的數(shù)據(jù)鏈路層修改mac地址,進(jìn)行負(fù)載均衡。

          數(shù)據(jù)分發(fā)時(shí),不修改ip地址,指修改目標(biāo)mac地址,配置真實(shí)物理服務(wù)器集群所有機(jī)器虛擬ip和負(fù)載均衡服務(wù)器ip地址一致,達(dá)到不修改數(shù)據(jù)包的源地址和目標(biāo)地址,進(jìn)行數(shù)據(jù)分發(fā)的目的。

          實(shí)際處理服務(wù)器ip和數(shù)據(jù)請求目的ip一致,不需要經(jīng)過負(fù)載均衡服務(wù)器進(jìn)行地址轉(zhuǎn)換,可將響應(yīng)數(shù)據(jù)包直接返回給用戶瀏覽器,避免負(fù)載均衡服務(wù)器網(wǎng)卡帶寬成為瓶頸。也稱為直接路由模式(DR模式)。如下圖:

          優(yōu)點(diǎn):性能好;
          缺點(diǎn):配置復(fù)雜;
          實(shí)踐建議:DR模式是目前使用最廣泛的一種負(fù)載均衡方式。

          2.5 混合型負(fù)載均衡

          由于多個(gè)服務(wù)器群內(nèi)硬件設(shè)備、各自的規(guī)模、提供的服務(wù)等的差異,可以考慮給每個(gè)服務(wù)器群采用最合適的負(fù)載均衡方式,然后又在這多個(gè)服務(wù)器群間再一次負(fù)載均衡或群集起來以一個(gè)整體向外界提供服務(wù)(即把這多個(gè)服務(wù)器群當(dāng)做一個(gè)新的服務(wù)器群),從而達(dá)到最佳的性能。將這種方式稱之為混合型負(fù)載均衡。另外搜索公眾號互聯(lián)網(wǎng)架構(gòu)師后臺(tái)回復(fù)“2T”,獲取一份驚喜禮包。
          此種方式有時(shí)也用于單臺(tái)均衡設(shè)備的性能不能滿足大量連接請求的情況下。是目前大型互聯(lián)網(wǎng)公司,普遍使用的方式。
          方式一,如下圖:

          以上模式適合有動(dòng)靜分離的場景,反向代理服務(wù)器(集群)可以起到緩存和動(dòng)態(tài)請求分發(fā)的作用,當(dāng)時(shí)靜態(tài)資源緩存在代理服務(wù)器時(shí),則直接返回到瀏覽器。如果動(dòng)態(tài)頁面則請求后面的應(yīng)用負(fù)載均衡(應(yīng)用集群)。
          方式二,如下圖:

          以上模式,適合動(dòng)態(tài)請求場景。
          因混合模式,可以根據(jù)具體場景,靈活搭配各種方式,以上兩種方式僅供參考。

          分享是快樂的,也是個(gè)人成長的過程。

          三、負(fù)載均衡算法

          常用的負(fù)載均衡算法有,輪詢,隨機(jī),最少鏈接,源地址散列,加權(quán)等方式;

          3.1 輪詢

          將所有請求,依次分發(fā)到每臺(tái)服務(wù)器上,適合服務(wù)器硬件同相同的場景。
          優(yōu)點(diǎn):服務(wù)器請求數(shù)目相同;
          缺點(diǎn):服務(wù)器壓力不一樣,不適合服務(wù)器配置不同的情況;

          3.2 隨機(jī)

          請求隨機(jī)分配到各個(gè)服務(wù)器。
          優(yōu)點(diǎn):使用簡單;
          缺點(diǎn):不適合機(jī)器配置不同的場景;

          3.3 最少鏈接

          將請求分配到連接數(shù)最少的服務(wù)器(目前處理請求最少的服務(wù)器)。
          優(yōu)點(diǎn):根據(jù)服務(wù)器當(dāng)前的請求處理情況,動(dòng)態(tài)分配;
          缺點(diǎn):算法實(shí)現(xiàn)相對復(fù)雜,需要監(jiān)控服務(wù)器請求連接數(shù);

          3.4 Hash(源地址散列)

          根據(jù)IP地址進(jìn)行Hash計(jì)算,得到IP地址。
          優(yōu)點(diǎn):將來自同一IP地址的請求,同一會(huì)話期內(nèi),轉(zhuǎn)發(fā)到相同的服務(wù)器;實(shí)現(xiàn)會(huì)話粘滯。
          缺點(diǎn):目標(biāo)服務(wù)器宕機(jī)后,會(huì)話會(huì)丟失;

          3.5 加權(quán)

          在輪詢,隨機(jī),最少鏈接,Hash’等算法的基礎(chǔ)上,通過加權(quán)的方式,進(jìn)行負(fù)載服務(wù)器分配。
          優(yōu)點(diǎn):根據(jù)權(quán)重,調(diào)節(jié)轉(zhuǎn)發(fā)服務(wù)器的請求數(shù)目;
          缺點(diǎn):使用相對復(fù)雜;

          四、硬件負(fù)載均衡

          采用硬件的方式實(shí)現(xiàn)負(fù)載均衡,一般是單獨(dú)的負(fù)載均衡服務(wù)器,價(jià)格昂貴,一般土豪級公司可以考慮,業(yè)界領(lǐng)先的有兩款,F(xiàn)5和A10。
          使用硬件負(fù)載均衡,主要考慮一下幾個(gè)方面:
          (1)功能考慮:功能全面支持各層級的負(fù)載均衡,支持全面的負(fù)載均衡算法,支持全局負(fù)載均衡;
          (2)性能考慮:一般軟件負(fù)載均衡支持到5萬級并發(fā)已經(jīng)很困難了,硬件負(fù)載均衡可以支持
          (3)穩(wěn)定性:商用硬件負(fù)載均衡,經(jīng)過了良好的嚴(yán)格的測試,從經(jīng)過大規(guī)模使用,在穩(wěn)定性方面高;
          (4)安全防護(hù):硬件均衡設(shè)備除具備負(fù)載均衡功能外,還具備防火墻,防DDOS攻擊等安全功能;
          (5)維護(hù)角度:提供良好的維護(hù)管理界面,售后服務(wù)和技術(shù)支持;
          (6)土豪公司:F5 Big Ip 價(jià)格:15w~55w不等;A10 價(jià)格:55w-100w不等;
          缺點(diǎn)
          1)價(jià)格昂貴;
          2)擴(kuò)展能力差;
          小結(jié)
          (1)一般硬件的負(fù)載均衡也要做雙機(jī)高可用,因此成本會(huì)比較高。
          (2)互聯(lián)網(wǎng)公司一般使用開源軟件,因此大部分應(yīng)用采用軟件負(fù)載均衡;部分采用硬件負(fù)載均衡。
          比如某互聯(lián)網(wǎng)公司,目前是使用幾臺(tái)F5做全局負(fù)載均衡,內(nèi)部使用Nginx等軟件負(fù)載均衡。



          全棧架構(gòu)社區(qū)交流群

          ?「全棧架構(gòu)社區(qū)」建立了讀者架構(gòu)師交流群,大家可以添加小編微信進(jìn)行加群。歡迎有想法、樂于分享的朋友們一起交流學(xué)習(xí)。

          掃描添加好友邀你進(jìn)架構(gòu)師群,加我時(shí)注明姓名+公司+職位】


          看完本文有收獲?請轉(zhuǎn)發(fā)分享給更多人


          往期資源:
          Flutter 移動(dòng)應(yīng)用開發(fā)實(shí)戰(zhàn) 視頻(開發(fā)你自己的抖音APP)
          Java面試進(jìn)階訓(xùn)練營 第2季(分布式篇)
          Java高級 - 分布式系統(tǒng)開發(fā)技術(shù)視頻
          瀏覽 84
          點(diǎn)贊
          評論
          收藏
          分享

          手機(jī)掃一掃分享

          分享
          舉報(bào)
          評論
          圖片
          表情
          推薦
          點(diǎn)贊
          評論
          收藏
          分享

          手機(jī)掃一掃分享

          分享
          舉報(bào)
          <kbd id="afajh"><form id="afajh"></form></kbd>
          <strong id="afajh"><dl id="afajh"></dl></strong>
            <del id="afajh"><form id="afajh"></form></del>
                1. <th id="afajh"><progress id="afajh"></progress></th>
                  <b id="afajh"><abbr id="afajh"></abbr></b>
                  <th id="afajh"><progress id="afajh"></progress></th>
                  大香蕉伊人成人网 | 九九在线观看视频 | 成人自拍偷拍在线观看 | 青青无码破解视频 | 家庭乱伦一区二区 |