<kbd id="afajh"><form id="afajh"></form></kbd>
<strong id="afajh"><dl id="afajh"></dl></strong>
    <del id="afajh"><form id="afajh"></form></del>
        1. <th id="afajh"><progress id="afajh"></progress></th>
          <b id="afajh"><abbr id="afajh"></abbr></b>
          <th id="afajh"><progress id="afajh"></progress></th>

          SpringCloud 優(yōu)雅下線+灰度發(fā)布

          共 4903字,需瀏覽 10分鐘

           ·

          2022-07-13 02:22

          程序員的成長(zhǎng)之路
          互聯(lián)網(wǎng)/程序員/技術(shù)/資料共享 
          關(guān)注


          閱讀本文大概需要 3.5 分鐘。

          作者:CG國(guó)斌
          來(lái)源:blog.csdn.net/qq_35246620/article/details/109166722

          # 前言


          在生產(chǎn)環(huán)境中,如何保證在服務(wù)升級(jí)的時(shí)候,不影響用戶的體驗(yàn),這個(gè)是一個(gè)非常重要的問(wèn)題。如果在我們升級(jí)服務(wù)的時(shí)候,會(huì)造成一段時(shí)間內(nèi)的服務(wù)不可用,這就是不夠優(yōu)雅的。那什么是優(yōu)雅的呢?主要就是指在服務(wù)升級(jí)的時(shí)候,不中斷整個(gè)服務(wù),讓用戶無(wú)感知,進(jìn)而不會(huì)影響用戶的體驗(yàn),這就是優(yōu)雅的。

          實(shí)際上,優(yōu)雅下線是目標(biāo),而不是手段,它是一個(gè)相對(duì)的概念,例如kill PID和kill -9 PID都是暴力殺死服務(wù),相對(duì)于kill -9 PID來(lái)說(shuō),kill PID就是優(yōu)雅的。但如果單獨(dú)拿kill PID出來(lái)說(shuō),我們能說(shuō)它是優(yōu)雅的下線策略嗎?肯定不是啊,就是這個(gè)道理。

          因此,本文講述的優(yōu)雅下線僅能稱之為“相對(duì)的優(yōu)雅下線”,但相對(duì)于暴力的殺死服務(wù),已經(jīng)足夠優(yōu)雅了。常見(jiàn)的優(yōu)雅解決方案,主要包括優(yōu)雅下線和灰度發(fā)布。而實(shí)際上,灰度發(fā)布的范圍就已經(jīng)包含優(yōu)雅下線了。最后,在本文中,我們主要講述基于 Spring Cloud 和 Euraka 的優(yōu)雅下線以及灰度發(fā)布。

          # 優(yōu)雅下線


          常見(jiàn)的下線方式


          方式一:kill PID

          使用方式:kill java進(jìn)程ID

          該方式借助的是 Spring Boot 應(yīng)用的 Shutdown hook,應(yīng)用本身的下線也是優(yōu)雅的,但如果你的服務(wù)發(fā)現(xiàn)組件使用的是 Eureka,那么默認(rèn)最長(zhǎng)會(huì)有 90 秒的延遲,其他應(yīng)用才會(huì)感知到該服務(wù)下線,這意味著:該實(shí)例下線后的 90 秒內(nèi),其他服務(wù)仍然可能調(diào)用到這個(gè)已下線的實(shí)例。因此,該方式是不夠優(yōu)雅的 。

          方式二:/shutdown端點(diǎn)

          Spring Boot 提供了/shutdown端點(diǎn),可以借助它實(shí)現(xiàn)優(yōu)雅停機(jī)。

          使用方式:在想下線應(yīng)用的applicationyml中添加如下配置,從而啟用并暴露/shutdown端點(diǎn):
          management: endpoint: shutdown: enabled: true endpoints: web: exposure: include: shutdown
          發(fā)送 POST 請(qǐng)求到/shutdown端點(diǎn)

          curl -X http://你想停止的服務(wù)地址/actuator/shutdown


          該方式本質(zhì)和方式一是一樣的,也是借助 Spring Boot 應(yīng)用的 Shutdown hook 去實(shí)現(xiàn)的。

          方式三:/pause端點(diǎn)

          Spring Boot 應(yīng)用提供了/pause端點(diǎn),利用該端點(diǎn)可實(shí)現(xiàn)優(yōu)雅下線。

          使用方式:在想下線應(yīng)用的application.yml中添加配置,從而啟用并暴露/pause端點(diǎn):
          management: endpoint: # 啟用pause端點(diǎn) pause: enabled: true # 啟用restart端點(diǎn),之所以要啟用restart端點(diǎn),是因?yàn)閜ause端點(diǎn)的啟用依賴restart端點(diǎn)的啟用 restart: enabled: true endpoints: web: exposure: include: pause,restart
          發(fā)送 POST 請(qǐng)求到/actuator/pause端點(diǎn):

          curl -X POST http://你想停止的服務(wù)實(shí)例地址/actuator/pause


          執(zhí)行后的效果類似下圖:

          如圖所示,該應(yīng)用在 Eureka Server 上的狀已被標(biāo)記為DOWN,但是應(yīng)用本身其實(shí)依然是可以正常對(duì)外服務(wù)的。在 Spring Cloud 中,Ribbon 做負(fù)載均衡時(shí),只會(huì)負(fù)載到標(biāo)記為UP的實(shí)例上。利用這兩點(diǎn),你可以:先用/pause端點(diǎn),將要下線的應(yīng)用標(biāo)記為DOWN,但不去真正停止應(yīng)用;然后過(guò)一定的時(shí)間(例如 90 秒,或者自己做個(gè)監(jiān)控,看當(dāng)前實(shí)例的流量變成 0 后)再去停止應(yīng)用,例如kill應(yīng)用。

          缺點(diǎn) & 局限


          方式四:/service-registry端點(diǎn)

          使用方式:在想下線應(yīng)用的application.yml中添加配置,從而暴露/service-registry端點(diǎn):
          management: endpoints: web: exposure: include: service-registry
          發(fā)送 POST 請(qǐng)求到/actuator/service-registry端點(diǎn):
          curl -X "POST" "http://localhost:8000/actuator/service-registry?status=DOWN" \ -H "Content-Type: application/vnd.spring-boot.actuator.v2+json;charset=UTF-8"
          實(shí)行后的效果類似如下圖:

          # 優(yōu)雅的下線方式


          在上文中,我們講述了四種常見(jiàn)的下線方式,對(duì)比來(lái)看,方式四 是一種比較優(yōu)雅的下線方式。

          在實(shí)際項(xiàng)目中,我們可以先使用/service-registry端點(diǎn),將服務(wù)標(biāo)記為DOWN,然后監(jiān)控服務(wù)的流量,當(dāng)流量為 0 時(shí),即可升級(jí)該服務(wù)。當(dāng)然,這里假設(shè)我們部署了多個(gè)服務(wù)實(shí)例,當(dāng)一個(gè)服務(wù)實(shí)例DOWN掉之后,其他服務(wù)實(shí)例仍然是可以提供服務(wù)的,如果就部署一臺(tái)服務(wù)的話,那么討論優(yōu)不優(yōu)雅就沒(méi)那么重要了。

          除了上述的下線方式之外,還有一種利用EurekaAutoServiceRegistration對(duì)象達(dá)到優(yōu)雅下線的目標(biāo)。

          • 執(zhí)行eurekaAutoServiceRegistration.start()方法時(shí),當(dāng)前服務(wù)向 Eureka 注冊(cè)中心注冊(cè)服務(wù);

          • 執(zhí)行eurekaAutoServiceRegistration.stop()方法時(shí),當(dāng)前服務(wù)會(huì)向 Eureka 注冊(cè)中心進(jìn)行反注冊(cè),注冊(cè)中心收到請(qǐng)求后,會(huì)將此服務(wù)從注冊(cè)列表中刪除。


          示例代碼如下:
          @RestController@RequestMapping(value = "/graceful/registry-service")public class GracefulOffline {
          @Autowired private EurekaAutoServiceRegistration eurekaAutoServiceRegistration;
          @RequestMapping("/online") public String online() { this.eurekaAutoServiceRegistration.start(); return "execute online method, online success.";    }
          @RequestMapping("/offline") public String offline() { this.eurekaAutoServiceRegistration.stop(); return "execute offline method, offline success."; }}
          到這里,我們已經(jīng)介紹了兩種相對(duì)優(yōu)雅的下線方式了。具體如何操作,我們可以根據(jù)實(shí)際上情況進(jìn)行包裝,或者利用自動(dòng)化的腳本來(lái)實(shí)現(xiàn)更加優(yōu)雅的下線方式。

          # 灰度發(fā)布


          藍(lán)綠部署


          藍(lán)綠部署,英文名為 Blue Green Deployment,是一種可以保證系統(tǒng)在不間斷提供服務(wù)的情況下上線的部署方式。

          如何保證系統(tǒng)不間斷提供服務(wù)呢?那就是同時(shí)部署兩個(gè)集群,但僅對(duì)外提供一個(gè)集群的服務(wù),當(dāng)需要升級(jí)時(shí),切換集群進(jìn)行升級(jí)。藍(lán)綠部署無(wú)需停機(jī),并且風(fēng)險(xiǎn)較小。其大致步驟為:

          • 部署集群 1 的應(yīng)用(初始狀態(tài)),將所有外部請(qǐng)求的流量都打到這個(gè)集群上

          • 部署集群 2 的應(yīng)用,集群 2 的代碼與集群 1 不同,如新功能或者 Bug 修復(fù)等

          • 將流量從集群 1 切換到集群 2

          • 如集群 2 測(cè)試正常,就刪除集群 1 正在使用的資源(例如實(shí)例),使用集群 2 對(duì)外提供服務(wù)


          因?yàn)樵谑褂盟{(lán)綠部署的方式時(shí),我們需要控制流量,所以我們需要借助路由服務(wù),如 Nginx 等。

          滾動(dòng)部署


          滾動(dòng)部署,英文名為 Rolling Update,同樣是一種可以保證系統(tǒng)在不間斷提供服務(wù)的情況下上線的部署方式。和藍(lán)綠部署不同的是,滾動(dòng)部署對(duì)外提供服務(wù)的版本并不是非此即彼,而是在更細(xì)的粒度下平滑完成版本的升級(jí)。

          如何做到細(xì)粒度平滑升級(jí)版本呢?滾動(dòng)部署只需要一個(gè)集群,集群下的不同節(jié)點(diǎn)可以獨(dú)立進(jìn)行版本升級(jí)。比如在一個(gè) 12 節(jié)點(diǎn)的集群中,我們每次升級(jí) 4 個(gè)節(jié)點(diǎn),并將升級(jí)后的節(jié)點(diǎn)重新投入使用,周而復(fù)始,直到集群中所有的節(jié)點(diǎn)都更新為新版本。

          這種部署方式相對(duì)于藍(lán)綠部署,更加節(jié)約資源,因?yàn)樗恍枰\(yùn)行兩個(gè)集群。但這種方式也有很多缺點(diǎn),例如:

          • 沒(méi)有一個(gè)確定 OK 的環(huán)境。使用藍(lán)綠部署,我們能夠清晰地知道老版本是 OK 的,而使用滾動(dòng)發(fā)布,我們無(wú)法確定。

          • 修改了現(xiàn)有的環(huán)境。

          • 如果需要回滾,很困難。舉個(gè)例子,在某一次發(fā)布中,我們需要更新 100 個(gè)實(shí)例,每次更新 10 個(gè)實(shí)例,每次部署需要 5 分鐘。當(dāng)滾動(dòng)發(fā)布到第 80 個(gè)實(shí)例時(shí),發(fā)現(xiàn)了問(wèn)題,需要回滾。這時(shí),我們估計(jì)就要瘋了。

          • 有的時(shí)候,我們還可能對(duì)系統(tǒng)進(jìn)行動(dòng)態(tài)伸縮,如果部署期間,系統(tǒng)自動(dòng)擴(kuò)容/縮容了,我們還需判斷到底哪個(gè)節(jié)點(diǎn)使用的是哪個(gè)代碼。盡管有一些自動(dòng)化的運(yùn)維工具,但是依然令人心驚膽戰(zhàn)。


          并不是說(shuō)滾動(dòng)發(fā)布不好,滾動(dòng)發(fā)布也有它非常合適的場(chǎng)景。

          金絲雀部署


          金絲雀部署又稱灰度部署(或者,灰度發(fā)布),英文名為 Canary Deployment,是指在黑與白之間,能夠平滑過(guò)渡的一種發(fā)布方式。

          金絲雀的名稱來(lái)源于「礦井中的金絲雀」,早在 17 世紀(jì),英國(guó)礦井工人發(fā)現(xiàn),金絲雀對(duì)瓦斯這種氣體十分敏感,空氣中哪怕有極其微量的瓦斯,金絲雀也會(huì)停止歌唱;而當(dāng)瓦斯含量超過(guò)一定限度時(shí),雖然魯鈍的人類毫無(wú)察覺(jué),金絲雀卻早已毒發(fā)身亡。當(dāng)時(shí)在采礦設(shè)備相對(duì)簡(jiǎn)陋的條件下,工人們每次下井都會(huì)帶上一只金絲雀作為“瓦斯檢測(cè)指標(biāo)”,以便在危險(xiǎn)狀況下緊急撤離。

          我們來(lái)看一下金絲雀部署的步驟:

          • 準(zhǔn)備好部署各個(gè)階段的工件,包括:構(gòu)建工件,測(cè)試腳本,配置文件和部署清單文件

          • 從負(fù)載均衡列表中移除掉“金絲雀”服務(wù)器

          • 升級(jí)“金絲雀”應(yīng)用(切斷原有流量并進(jìn)行部署)

          • 對(duì)應(yīng)用進(jìn)行自動(dòng)化測(cè)試

          • 將“金絲雀”服務(wù)器重新添加到負(fù)載均衡列表中(連通性和健康檢查)

          • 如果“金絲雀”在線使用測(cè)試成功,升級(jí)剩余的其他服務(wù)器(否則就回滾)


          在金絲雀部署中,常常按照用戶量設(shè)置路由權(quán)重,例如 90% 的用戶維持使用老版本,10% 的用戶嘗鮮新版本。不同版本應(yīng)用共存,經(jīng)常與 A/B 測(cè)試一起使用,用于測(cè)試選擇多種方案。


          金絲雀部署比較典型的例子,就是我們?cè)谑褂媚硞€(gè)應(yīng)用的時(shí)候,該應(yīng)用邀請(qǐng)我們進(jìn)行“內(nèi)測(cè)”或者“新版本體驗(yàn)”,如果我們同意了,那么我們就成了金絲雀。
          <END>

          推薦閱讀:

          突然宣布解散!

          Spring Boot 使用 Disruptor 做內(nèi)部高性能消息隊(duì)列

          互聯(lián)網(wǎng)初中高級(jí)大廠面試題(9個(gè)G)

          內(nèi)容包含Java基礎(chǔ)、JavaWeb、MySQL性能優(yōu)化、JVM、鎖、百萬(wàn)并發(fā)、消息隊(duì)列、高性能緩存、反射、Spring全家桶原理、微服務(wù)、Zookeeper......等技術(shù)棧!

          ?戳閱讀原文領(lǐng)取!                                  朕已閱 

          瀏覽 48
          點(diǎn)贊
          評(píng)論
          收藏
          分享

          手機(jī)掃一掃分享

          分享
          舉報(bào)
          評(píng)論
          圖片
          表情
          推薦
          點(diǎn)贊
          評(píng)論
          收藏
          分享

          手機(jī)掃一掃分享

          分享
          舉報(bào)
          <kbd id="afajh"><form id="afajh"></form></kbd>
          <strong id="afajh"><dl id="afajh"></dl></strong>
            <del id="afajh"><form id="afajh"></form></del>
                1. <th id="afajh"><progress id="afajh"></progress></th>
                  <b id="afajh"><abbr id="afajh"></abbr></b>
                  <th id="afajh"><progress id="afajh"></progress></th>
                  91插网| 91麻豆精品成人系列 | 日本不卡a | 日本親子亂子倫XXXX | 美艳麻麻诱子乱小说 |