<kbd id="afajh"><form id="afajh"></form></kbd>
<strong id="afajh"><dl id="afajh"></dl></strong>
    <del id="afajh"><form id="afajh"></form></del>
        1. <th id="afajh"><progress id="afajh"></progress></th>
          <b id="afajh"><abbr id="afajh"></abbr></b>
          <th id="afajh"><progress id="afajh"></progress></th>

          聊聊日常開發(fā)中,如何減少bug呢?

          共 12535字,需瀏覽 26分鐘

           ·

          2021-07-09 02:43

          前言

          大家好呀~今天跟大家聊聊日常開發(fā)中,如何減少bug?本文將從數(shù)據(jù)庫、代碼層面、緩存使用篇3個(gè)大方向,總結(jié)出一共50多個(gè)注意點(diǎn),助大家成為開發(fā)質(zhì)量之星。

          • 歡迎關(guān)注公眾號(hào):撿田螺的小男孩

          1. 數(shù)據(jù)庫篇

          慢查詢

          數(shù)據(jù)庫篇的話,哪些地方容易導(dǎo)致bug出現(xiàn)呢?我總結(jié)了7個(gè)方面:慢查詢、數(shù)據(jù)庫字段注意點(diǎn)、事務(wù)失效的場(chǎng)景、死鎖、主從延遲、新老數(shù)據(jù)兼容、一些SQL經(jīng)典注意點(diǎn)。

          1.1 慢查詢

          慢查詢.gif

          1.1.1 是否命中索引

          提起慢查詢,我們馬上就會(huì)想到加索引。如果一條SQL沒加索引,或者沒有命中索引的話,就會(huì)產(chǎn)生慢查詢。

          索引哪些情況會(huì)失效?

          • 查詢條件包含or,可能導(dǎo)致索引失效
          • 如何字段類型是字符串,where時(shí)一定用引號(hào)括起來,否則索引失效
          • like通配符可能導(dǎo)致索引失效。
          • 聯(lián)合索引,查詢時(shí)的條件列不是聯(lián)合索引中的第一個(gè)列,索引失效。
          • 在索引列上使用mysql的內(nèi)置函數(shù),索引失效。
          • 對(duì)索引列運(yùn)算(如,+、-、*、/),索引失效。
          • 索引字段上使用(!= 或者 < >,not in)時(shí),可能會(huì)導(dǎo)致索引失效。
          • 索引字段上使用is null, is not null,可能導(dǎo)致索引失效。
          • 左連接查詢或者右連接查詢查詢關(guān)聯(lián)的字段編碼格式不一樣,可能導(dǎo)致索引失效。
          • mysql估計(jì)使用全表掃描要比使用索引快,則不使用索引。

          1.1.2 數(shù)據(jù)量大,考慮分庫分表

          單表數(shù)據(jù)量太大,就會(huì)影響SQL執(zhí)行性能。我們知道索引數(shù)據(jù)結(jié)構(gòu)一般是B+樹,一棵高度為3的B+樹,大概可以存儲(chǔ)兩千萬的數(shù)據(jù)。超過這個(gè)數(shù)的話,B+樹要變高,查詢性能會(huì)下降。

          因此,數(shù)據(jù)量大的時(shí)候,建議分庫分表。分庫分表的中間件有mycat、sharding-jdbc

          1.1.3 不合理的SQL

          日常開發(fā)中,筆者見過很多不合理的SQL:比如一個(gè)SQL居然用了6個(gè)表連接,連表太多會(huì)影響查詢性能;再比如一個(gè)表,居然加了10個(gè)索引等等。索引是會(huì)降低了插入和更新SQL性能,所以索引一般不建議太多,一般不能超過五個(gè)。

          1.2 數(shù)據(jù)庫字段注意點(diǎn)

          數(shù)據(jù)庫字段這塊內(nèi)容,很容易出bug。比如,你測(cè)試環(huán)境修改了表結(jié)構(gòu),加了某個(gè)字段,忘記把腳本帶到生產(chǎn)環(huán)境,那發(fā)版肯定有問題了。

          1.2.1 字段是否會(huì)超長

          假設(shè)你的數(shù)據(jù)庫字段是:

          `name` varchar(255) DEFAULT NOT NULL

          如果請(qǐng)求參數(shù)來了變量name,字段長度是300,那插入表的時(shí)候就報(bào)錯(cuò)了。所以需要校驗(yàn)參數(shù),防止字段超長。

          1.2.2 字段為空,是否會(huì)導(dǎo)致空指針等

          我們?cè)O(shè)計(jì)數(shù)據(jù)庫表字段的時(shí)候,盡量把字段設(shè)置為not null。

          • 如果是整形,我們一般使用0或者-1作為默認(rèn)值。
          • 如果字符串,默認(rèn)空字符串

          如果數(shù)據(jù)庫字段設(shè)置為NULL值,容易導(dǎo)致程序空指針;如果數(shù)據(jù)庫字段設(shè)置為NULL值,需要注意count(具體列) 的使用,會(huì)有坑。

          1.2.3 字段缺失

          我們的日常開發(fā)任務(wù),如果在測(cè)試環(huán)境,對(duì)表進(jìn)行修改,比如添加了一個(gè)新字段,必須要把SQL腳本帶到生產(chǎn)環(huán)境,否則字段缺失,發(fā)版就有問題啦。

          1.2.4 字段類型是否支持表情

          如果一個(gè)表字段需要支持表情存儲(chǔ),使用utf8mb4。

          1.2.5 謹(jǐn)慎使用text、blob字段

          如果你要用一個(gè)字段存儲(chǔ)文件,考慮存儲(chǔ)文件的路徑,而不是保存整個(gè)文件下去。使用text時(shí),涉及查詢條件時(shí),注意創(chuàng)建前綴索引。

          1.3 事務(wù)失效的場(chǎng)景

          1.3.1 @Transactional 在非public修飾的方法上失效

          @Transactional注解,加在非public修飾的方法上,事務(wù)是不會(huì)生效的。spring事務(wù)是借鑒了AOP的思想,也是通過動(dòng)態(tài)代理來實(shí)現(xiàn)的。spring事務(wù)自己在調(diào)用動(dòng)態(tài)代理之前,已經(jīng)對(duì)非public方法過濾了,所以非public方法,事務(wù)不生效。

          1.3.2 本地方法直接調(diào)用

          以下這個(gè)場(chǎng)景,@Transactional事務(wù)也是無效的

          public class TransactionTest{
            public void A(){
              //插入一條數(shù)據(jù)
              //調(diào)用方法B (本地的類調(diào)用,事務(wù)失效了)
              B();
            }
            
            @Transactional
            public void B(){
              //插入數(shù)據(jù)
            }
          }

          1.3.3 異常被try...catch吃了,導(dǎo)致事務(wù)失效。

          @Transactional
          public void method(){
            try{
              //插入一條數(shù)據(jù)
              insertA();
              //更改一條數(shù)據(jù)
              updateB();
            }catch(Exception e){
              logger.error("異常被捕獲了,那你的事務(wù)就失效咯",e);
            }
          }

          1.3.4 rollbackFor屬性設(shè)置錯(cuò)誤

          Spring默認(rèn)拋出了未檢查unchecked異常(繼承自RuntimeException 的異常)或者Error才回滾事務(wù);其他異常不會(huì)觸發(fā)回滾事務(wù)。如果在事務(wù)中拋出其他類型的異常,就需要指定rollbackFor屬性。

          1.3.5 底層數(shù)據(jù)庫引擎不支持事務(wù)

          MyISAM存儲(chǔ)引擎不支持事務(wù),InnoDb就支持事務(wù)

          1.3.6 spring事務(wù)和業(yè)務(wù)邏輯代碼必須在一個(gè)線程中

          業(yè)務(wù)代碼要和spring事務(wù)的源碼在同一個(gè)線程中,才會(huì)受spring事務(wù)的控制。比如下面代碼,方法mothed的子線程,內(nèi)部執(zhí)行的事務(wù)操作,將不受mothed方法上spring事務(wù)的控制,這一點(diǎn)大家要注意。這是因?yàn)閟pring事務(wù)實(shí)現(xiàn)中使用了ThreadLocal,實(shí)現(xiàn)同一個(gè)線程中數(shù)據(jù)共享。

          @Transactional
          public void mothed() {
              new Thread() {
                事務(wù)操作
              }.start();
          }

          1.4 死鎖

          死鎖是指兩個(gè)或多個(gè)事務(wù)在同一資源上相互占用,并請(qǐng)求鎖定對(duì)方的資源,從而導(dǎo)致惡性循環(huán)的現(xiàn)象。

          MySQL內(nèi)部有一套死鎖檢測(cè)機(jī)制,一旦發(fā)生死鎖會(huì)立即回滾一個(gè)事務(wù),讓另一個(gè)事務(wù)執(zhí)行下去。但死鎖有資源的利用率降低、進(jìn)程得不到正確結(jié)果等危害。

          1.4.1 9種情況的SQL加鎖分析

          要避免死鎖,需要學(xué)會(huì)分析:一條SQL的加鎖是如何進(jìn)行的?一條SQL加鎖,可以分9種情況進(jìn)行探討:

          • 組合一:id列是主鍵,RC隔離級(jí)別
          • 組合二:id列是二級(jí)唯一索引,RC隔離級(jí)別
          • 組合三:id列是二級(jí)非唯一索引,RC隔離級(jí)別
          • 組合四:id列上沒有索引,RC隔離級(jí)別
          • 組合五:id列是主鍵,RR隔離級(jí)別
          • 組合六:id列是二級(jí)唯一索引,RR隔離級(jí)別
          • 組合七:id列是二級(jí)非唯一索引,RR隔離級(jí)別
          • 組合八:id列上沒有索引,RR隔離級(jí)別
          • 組合九:Serializable隔離級(jí)別

          1.4.2 如何分析解決死鎖?

          分析解決死鎖的步驟如下:

          • 模擬死鎖場(chǎng)景
          • show engine innodb status;查看死鎖日志
          • 找出死鎖SQL
          • SQL加鎖分析,這個(gè)可以去官網(wǎng)看哈
          • 分析死鎖日志(持有什么鎖,等待什么鎖)
          • 熟悉鎖模式兼容矩陣,InnoDB存儲(chǔ)引擎中鎖的兼容性矩陣。

          有興趣的小伙伴,可以看下我之前寫的這篇文章:手把手教你分析Mysql死鎖問題

          1.5 主從延遲問題考慮

          先插入,接著就去查詢,這類代碼邏輯比較常見,這可能會(huì)有問題的。一般數(shù)據(jù)庫都是有主庫,從庫的。寫入的話是寫主庫,讀一般是讀從庫。如果發(fā)生主從延遲,,很可能出現(xiàn)你插入成功了,但是查詢不到的情況。

          1.5.1 要求強(qiáng)一致性,考慮讀主庫

          如果是重要業(yè)務(wù),要求強(qiáng)一致性,考慮直接讀主庫

          1.5.2 不要求強(qiáng)一致性,讀從庫

          如果是一般業(yè)務(wù),可以接受短暫的數(shù)據(jù)不一致的話,優(yōu)先考慮讀從庫。因?yàn)閺膸炜梢苑謸?dān)主庫的讀寫壓力,提高系統(tǒng)吞吐。

          1.6 新老數(shù)據(jù)兼容

          1.6.1 新加的字段,考慮存量數(shù)據(jù)的默認(rèn)值

          我們?nèi)粘i_發(fā)中,隨著業(yè)務(wù)需求變更,經(jīng)常需要給某個(gè)數(shù)據(jù)庫表添加個(gè)字段。比如在某個(gè)APP配置表,需要添加個(gè)場(chǎng)景號(hào)字段,如scene_type,它的枚舉值是 01、02、03,那我們就要跟業(yè)務(wù)對(duì)齊,新添加的字段,老數(shù)據(jù)是什么默認(rèn)值,是為空還是默認(rèn)01,如果是為NULL的話,程序代碼就要做好空指針處理。

          1.6.2 如果新業(yè)務(wù)用老的字段,考慮老數(shù)據(jù)的值是否有坑

          如果我們開發(fā)中,需要沿用數(shù)據(jù)庫表的老字段,并且有存量數(shù)據(jù),那就需要考慮老存量數(shù)據(jù)庫的值是否有坑。比如我們表有個(gè)user_role_code 的字段,老的數(shù)據(jù)中,它枚舉值是 01:超級(jí)管理員 02:管理員 03:一般用戶。假設(shè)業(yè)務(wù)需求是一般用戶拆分為03查詢用戶和04操作用戶,那我們?cè)陂_發(fā)中,就要考慮老數(shù)據(jù)值的問題啦。

          1.7 一些SQL的經(jīng)典注意點(diǎn)

          1.7.1 limit大分頁問題

          limit大分頁是一個(gè)非常經(jīng)典的SQL問題,我們一般有這3種對(duì)應(yīng)的解決方案

          方案一: 如果id是連續(xù)的,可以這樣,返回上次查詢的最大記錄(偏移量),再往下limit

          select id,name from employee where id>1000000 limit 10.

          方案二: 在業(yè)務(wù)允許的情況下限制頁數(shù):

          建議跟業(yè)務(wù)討論,有沒有必要查這么后的分頁啦。因?yàn)榻^大多數(shù)用戶都不會(huì)往后翻太多頁。谷歌搜索頁也是限制了頁數(shù),因此不存在limit大分頁問題。

          方案三:  利用延遲關(guān)聯(lián)或者子查詢優(yōu)化超多分頁場(chǎng)景。(先快速定位需要獲取的id段,然后再關(guān)聯(lián))

          SELECT a.* FROM employee a, (select id from employee where 條件 LIMIT 1000000,10 ) b where a.id=b.id

          1.7.2 修改、查詢數(shù)據(jù)量多時(shí),考慮分批進(jìn)行。

          我們更新或者查詢數(shù)據(jù)庫數(shù)據(jù)時(shí),盡量避免循環(huán)去操作數(shù)據(jù)庫,可以考慮分批進(jìn)行。比如你要插入10萬數(shù)據(jù)的話,可以一次插入500條,執(zhí)行200次。

          正例:

          remoteBatchQuery(param);

          反例:


          for(int i=0;i<100000;i++){
            remoteSingleQuery(param)
          }

          2. 代碼層面篇

          代碼層面

          2.1 編碼細(xì)節(jié)

          編碼細(xì)節(jié).gif

          2.1.1 六大典型空指針問題

          我們編碼的時(shí)候,需要注意這六種類型的空指針問題

          • 包裝類型的空指針問題
          • 級(jí)聯(lián)調(diào)用的空指針問題
          • Equals方法左邊的空指針問題
          • ConcurrentHashMap 類似容器不支持 k-v為 null。
          • 集合,數(shù)組直接獲取元素
          • 對(duì)象直接獲取屬性
          if(object!=null){
             String name = object.getName();
          }

          2.1.2 線程池使用注意點(diǎn)

          • 使用 Executors.newFixedThreadPool,可能會(huì)出現(xiàn)OOM問題,因?yàn)樗褂玫氖菬o界阻塞隊(duì)列
          • 建議使用自定義的線程池,最好給線程池一個(gè)清晰的命名,方便排查問題
          • 不同的業(yè)務(wù),最好做線程池隔離,避免所有的業(yè)務(wù)公用一個(gè)線程池。
          • 線程池異常處理要考慮好

          2.1.3 線性安全的集合、類

          在高并發(fā)場(chǎng)景下,HashMap可能會(huì)出現(xiàn)死循環(huán)。因?yàn)樗欠蔷€性安全的,可以考慮使用ConcurrentHashMap。所以我們使用這些集合的時(shí)候,需要注意是不是線性安全的。

          • Hashmap、Arraylist、LinkedList、TreeMap等都是線性不安全的;
          • Vector、Hashtable、ConcurrentHashMap等都是線性安全的

          2.1.4  日期格式,金額處理精度等

          日常開發(fā),經(jīng)常需要對(duì)日期格式化,但是呢,年份設(shè)置為YYYY大寫的時(shí)候,是有坑的哦。

          Calendar calendar = Calendar.getInstance();
          calendar.set(2019, Calendar.DECEMBER, 31);

          Date testDate = calendar.getTime();

          SimpleDateFormat dtf = new SimpleDateFormat("YYYY-MM-dd");
          System.out.println("2019-12-31 轉(zhuǎn) YYYY-MM-dd 格式后 " + dtf.format(testDate));

          運(yùn)行結(jié)果:

          2019-12-31 轉(zhuǎn) YYYY-MM-dd 格式后 2020-12-31

          還有金額計(jì)算也比較常見,我們要注意精度問題:

          public class DoubleTest {
              public static void main(String[] args) {
                  System.out.println(0.1+0.2);
                  System.out.println(1.0-0.8);
                  System.out.println(4.015*100);
                  System.out.println(123.3/100);

                  double amount1 = 3.15;
                  double amount2 = 2.10;
                  if (amount1 - amount2 == 1.05){
                      System.out.println("OK");
                  }
              }
          }

          運(yùn)行結(jié)果:

          0.30000000000000004
          0.19999999999999996
          401.49999999999994
          1.2329999999999999

          2.1.5 大文件處理

          讀取大文件的時(shí)候,不要Files.readAllBytes直接讀到內(nèi)存,會(huì)OOM的,建議使用BufferedReader一行一行來,或者使用NIO

          2.1.6 使用完IO資源流,需要關(guān)閉

          使用try-with-resource,讀寫完文件,需要關(guān)閉流

          /*
           * 關(guān)注公眾號(hào),撿田螺的小男孩
           */
          try (FileInputStream inputStream = new FileInputStream(new File("jay.txt")) {
              // use resources   
          } catch (FileNotFoundException e) {
              log.error(e);
          } catch (IOException e) {
              log.error(e);
          }

          2.1.7 try...catch異常使用的一些坑

          • 盡量不要使用e.printStackTrace()打印,可能導(dǎo)致字符串常量池內(nèi)存空間占滿
          • catch了異常,使用log把它打印出來
          • 不要用一個(gè)Exception捕捉所有可能的異常
          • 不要把捕獲異常當(dāng)做業(yè)務(wù)邏輯來處理

          2.1.8 先查詢,再更新/刪除的并發(fā)一致性

          日常開發(fā)中,這種代碼實(shí)現(xiàn)經(jīng)常可見:先查詢是否有剩余可用的票,再去更新票余量。

          if(selectIsAvailable(ticketId){ 
              1、deleteTicketById(ticketId) 
              2、給現(xiàn)金增加操作 
          }else
              return “沒有可用現(xiàn)金券” 
          }

          如果是并發(fā)執(zhí)行,很可能有問題的,應(yīng)該利用數(shù)據(jù)庫更新/刪除的原子性,正解如下:

          if(deleteAvailableTicketById(ticketId) == 1){ 
              1、給現(xiàn)金增加操作 
          }else
              return “沒有可用現(xiàn)金券” 
          }

          2.2 提供對(duì)外接口

          2.2.1 校驗(yàn)參數(shù)合法性

          我們提供對(duì)外的接口,不管是提供給客戶端、還是前端,又或是別的系統(tǒng)調(diào)用,都需要校驗(yàn)一下入?yún)⒌暮戏ㄐ浴?/p>

          如果你的數(shù)據(jù)庫字段設(shè)置為varchar(16),對(duì)方傳了一個(gè)32位的字符串過來,你不校驗(yàn)參數(shù)長度,插入數(shù)據(jù)庫直接異常了。

          2.2.2 新老接口兼容

          很多bug都是因?yàn)樾薷牧藢?duì)外老接口,但是卻不做兼容導(dǎo)致的。關(guān)鍵這個(gè)問題多數(shù)是比較嚴(yán)重的,可能直接導(dǎo)致系統(tǒng)發(fā)版失敗的。新手程序員很容易犯這個(gè)錯(cuò)誤哦~

          比如我們有個(gè)dubbo的分布式接口,本次你修改了入?yún)?,就需要考慮新老接口兼容。原本是只接收A,B參數(shù),現(xiàn)在你加了一個(gè)參數(shù)C,就可以考慮這樣處理。

          //老接口
          void oldService(A,B){
            //兼容新接口,傳個(gè)null代替C
            newService(A,B,null);
          }

          //新接口,暫時(shí)不能刪掉老接口,需要做兼容。
          void newService(A,B,C);

          2.2.3 限流,防止大流量壓垮系統(tǒng)

          如果瞬間的大流量請(qǐng)求過來,容易壓垮系統(tǒng)。所以為了保護(hù)我們的系統(tǒng),一般要做限流處理??梢允褂?strong style="font-weight: border;color: #0e88eb;">guava ratelimiter 組件做限流,也可以用阿里開源的Sentinel

          2.2.4 接口安全性,加簽驗(yàn)簽,鑒權(quán)

          我們轉(zhuǎn)賬等類型的接口,一定要注意安全性。一定要鑒權(quán),加簽驗(yàn)簽,為用戶交易保駕護(hù)航。

          2.2.5 考慮接口冪等性

          接口是需要考慮冪等性的,尤其搶紅包、轉(zhuǎn)賬這些重要接口。最直觀的業(yè)務(wù)場(chǎng)景,就是用戶連著點(diǎn)擊兩次,你的接口有沒有hold住。

          1. 冪等(idempotent、idempotence)是一個(gè)數(shù)學(xué)與計(jì)算機(jī)學(xué)概念,常見于抽象代數(shù)中。
          2. 在編程中.一個(gè)冪等操作的特點(diǎn)是其任意多次執(zhí)行所產(chǎn)生的影響均與一次執(zhí)行的影響相同。冪等函數(shù),或冪等方法,是指可以使用相同參數(shù)重復(fù)執(zhí)行,并能獲得相同結(jié)果的函數(shù)。

          一般冪等技術(shù)方案有這幾種:

          1. 查詢操作
          2. 唯一索引
          3. token機(jī)制,防止重復(fù)提交
          4. 數(shù)據(jù)庫的delete刪除操作
          5. 樂觀鎖
          6. 悲觀鎖
          7. Redis、zookeeper 分布式鎖(以前搶紅包需求,用了Redis分布式鎖)
          8. 狀態(tài)機(jī)冪等
          接口冪等性.gif

          2.3 調(diào)用第三方接口

          2.3.1 超時(shí)處理

          我們調(diào)用別人的接口,如果超時(shí)了怎么辦呢?

          舉個(gè)例子,我們調(diào)用一個(gè)遠(yuǎn)程轉(zhuǎn)賬接口,A客戶給B客戶轉(zhuǎn)100萬,成功的時(shí)候就把本地轉(zhuǎn)賬流水置為成功,失敗的時(shí)候就把本地流水置為失敗。如果調(diào)用轉(zhuǎn)賬系統(tǒng)超時(shí)了呢,我們?cè)趺刺幚砟??置為成功還是失敗呢?這個(gè)超時(shí)處理可要考慮好,要不然就資金損失了。這種場(chǎng)景下,調(diào)接口超時(shí),我們就可以先不更新本地轉(zhuǎn)賬流水狀態(tài),而是重新發(fā)起查詢遠(yuǎn)程轉(zhuǎn)賬請(qǐng)求,查詢到轉(zhuǎn)賬成功的記錄,再更新本地狀態(tài)狀態(tài)

          2.3.2 考慮重試機(jī)制

          如果我們調(diào)用一個(gè)遠(yuǎn)程http或者dubbo接口,調(diào)用失敗了,我們可以考慮引入重試機(jī)制。有時(shí)候網(wǎng)路抖動(dòng)一下,接口就調(diào)失敗了,引入重試機(jī)制可以提高用戶體驗(yàn)。但是這個(gè)重試機(jī)制需要評(píng)估次數(shù),或者有些接口不支持冪等,就不適合重試的。

          2.3.3 考慮是否降級(jí)處理

          假設(shè)我們系統(tǒng)是一個(gè)提供注冊(cè)的服務(wù):用戶注冊(cè)成功之后,調(diào)遠(yuǎn)程A接口發(fā)短信,調(diào)遠(yuǎn)程B接口發(fā)郵件,最后更新注冊(cè)狀態(tài)為成功。

          如果調(diào)用接口B發(fā)郵件失敗,那用戶就注冊(cè)失敗,業(yè)務(wù)可能就不會(huì)同意了。這時(shí)候我們可以考慮給B接口降級(jí)處理,提供有損服務(wù)。也就是說,如果調(diào)用B接口失敗,那先不發(fā)郵件,而是先讓用戶注冊(cè)成功,后面搞個(gè)定時(shí)補(bǔ)發(fā)郵件就好啦。

          2.3.4 考慮是否異步處理

          我還是使用上個(gè)小節(jié)的用戶注冊(cè)的例子。我們可以開個(gè)異步線程去調(diào)A接口發(fā)短信,異步調(diào)B接口發(fā)郵件,那即使A或者B接口調(diào)失敗,我們還是可以保證用戶先注冊(cè)成功。

          把發(fā)短信這些通知類接口,放到異步線程處理,可以降低接口耗時(shí),提升用戶體驗(yàn)哦。

          2.3.5 調(diào)接口異常處理

          如果我們調(diào)用一個(gè)遠(yuǎn)程接口,一般需要思考以下:如果別人接口異常,我們要怎么處理,怎么兜底,是重試還是當(dāng)做失?。吭趺幢WC數(shù)據(jù)的最終一致性等等。

          3. 緩存篇

          3.1 數(shù)據(jù)庫與緩存一致性

          使用緩存,可以降低耗時(shí),提供系統(tǒng)吞吐性能。但是,使用緩存,會(huì)存在數(shù)據(jù)一致性的問題。

          3.1.1 幾種緩存使用模式

          • Cache-Aside Pattern,旁路緩存模式
          • Read-Through/Write-Through(讀寫穿透)
          • Write- behind (異步緩存寫入)

          一般我們使用緩存,都是旁路緩存模式,讀請(qǐng)求流程如下:

          • 讀的時(shí)候,先讀緩存,緩存命中的話,直接返回?cái)?shù)據(jù)
          • 緩存沒有命中的話,就去讀數(shù)據(jù)庫,從數(shù)據(jù)庫取出數(shù)據(jù),放入緩存后,同時(shí)返回響應(yīng)。

          旁路緩存模式的寫流程:

          3.1.2 刪除緩存呢,還是更新緩存?

          我們?cè)诓僮骶彺娴臅r(shí)候,到底應(yīng)該刪除緩存還是更新緩存呢?我們先來看個(gè)例子:

          1. 線程A先發(fā)起一個(gè)寫操作,第一步先更新數(shù)據(jù)庫
          2. 線程B再發(fā)起一個(gè)寫操作,第二步更新了數(shù)據(jù)庫
          3. 由于網(wǎng)絡(luò)等原因,線程B先更新了緩存
          4. 線程A更新緩存。

          這時(shí)候,緩存保存的是A的數(shù)據(jù)(老數(shù)據(jù)),數(shù)據(jù)庫保存的是B的數(shù)據(jù)(新數(shù)據(jù)),數(shù)據(jù)不一致了,臟數(shù)據(jù)出現(xiàn)啦。如果是刪除緩存取代更新緩存則不會(huì)出現(xiàn)這個(gè)臟數(shù)據(jù)問題。

          3.1.3 先操作數(shù)據(jù)庫還是先操作緩存

          雙寫的情況下,先操作數(shù)據(jù)庫還是先操作緩存?我們?cè)賮砜匆粋€(gè)例子:假設(shè)有A、B兩個(gè)請(qǐng)求,請(qǐng)求A做更新操作,請(qǐng)求B做查詢讀取操作。

          image.png
          1. 線程A發(fā)起一個(gè)寫操作,第一步del cache
          2. 此時(shí)線程B發(fā)起一個(gè)讀操作,cache miss
          3. 線程B繼續(xù)讀DB,讀出來一個(gè)老數(shù)據(jù)
          4. 然后線程B把老數(shù)據(jù)設(shè)置入cache
          5. 線程A寫入DB最新的數(shù)據(jù)

          醬紫就有問題啦,緩存和數(shù)據(jù)庫的數(shù)據(jù)不一致了。緩存保存的是老數(shù)據(jù),數(shù)據(jù)庫保存的是新數(shù)據(jù)。因此,Cache-Aside緩存模式,選擇了先操作數(shù)據(jù)庫而不是先操作緩存。

          3.1.4 如何保證最終一致性

          • 緩存延時(shí)雙刪
          • 刪除緩存重試機(jī)制
          • 讀取biglog異步刪除緩存

          3.2 緩存穿透

          緩存穿透:指查詢一個(gè)一定不存在的數(shù)據(jù),由于緩存不命中時(shí),需要從數(shù)據(jù)庫查詢,查不到數(shù)據(jù)則不寫入緩存,這將導(dǎo)致這個(gè)不存在的數(shù)據(jù)每次請(qǐng)求都要到數(shù)據(jù)庫去查詢,進(jìn)而給數(shù)據(jù)庫帶來壓力。

          緩存穿透一般都是這幾種情況產(chǎn)生的:業(yè)務(wù)不合理的設(shè)計(jì)、業(yè)務(wù)/運(yùn)維/開發(fā)失誤的操作、黑客非法請(qǐng)求攻擊。如何避免緩存穿透呢?一般有三種方法。

          • 如果是非法請(qǐng)求,我們?cè)贏PI入口,對(duì)參數(shù)進(jìn)行校驗(yàn),過濾非法值。
          • 如果查詢數(shù)據(jù)庫為空,我們可以給緩存設(shè)置個(gè)空值,或者默認(rèn)值。但是如有有寫請(qǐng)求進(jìn)來的話,需要更新緩存哈,以保證緩存一致性,同時(shí),最后給緩存設(shè)置適當(dāng)?shù)倪^期時(shí)間。(業(yè)務(wù)上比較常用,簡單有效)
          • 使用布隆過濾器快速判斷數(shù)據(jù)是否存在。即一個(gè)查詢請(qǐng)求過來時(shí),先通過布隆過濾器判斷值是否存在,存在才繼續(xù)往下查。

          3.3 緩存雪崩

          緩存雪崩:指緩存中數(shù)據(jù)大批量到過期時(shí)間,而查詢數(shù)據(jù)量巨大,引起數(shù)據(jù)庫壓力過大甚至down機(jī)。

          • 緩存雪奔一般是由于大量數(shù)據(jù)同時(shí)過期造成的,對(duì)于這個(gè)原因,可通過均勻設(shè)置過期時(shí)間解決,即讓過期時(shí)間相對(duì)離散一點(diǎn)。如采用一個(gè)較大固定值+一個(gè)較小的隨機(jī)值,5小時(shí)+0到1800秒醬紫。
          • Redis 故障宕機(jī)也可能引起緩存雪奔。這就需要構(gòu)造Redis高可用集群啦。

          3.4  緩存機(jī)擊穿

          緩存擊穿:指熱點(diǎn)key在某個(gè)時(shí)間點(diǎn)過期的時(shí)候,而恰好在這個(gè)時(shí)間點(diǎn)對(duì)這個(gè)Key有大量的并發(fā)請(qǐng)求過來,從而大量的請(qǐng)求打到db。

          緩存擊穿看著有點(diǎn)像緩存雪崩,其實(shí)它兩區(qū)別是,緩存雪奔是指數(shù)據(jù)庫壓力過大甚至down機(jī),緩存擊穿只是大量并發(fā)請(qǐng)求到了DB數(shù)據(jù)庫層面??梢哉J(rèn)為擊穿是緩存雪奔的一個(gè)子集吧。有些文章認(rèn)為它倆區(qū)別,是在于擊穿針對(duì)某一熱點(diǎn)key緩存,雪奔則是很多key。

          解決方案就有兩種:

          1. 使用互斥鎖方案。緩存失效時(shí),不是立即去加載db數(shù)據(jù),而是先使用某些帶成功返回的原子操作命令,如(Redis的setnx)去操作,成功的時(shí)候,再去加載db數(shù)據(jù)庫數(shù)據(jù)和設(shè)置緩存。否則就去重試獲取緩存。
          2. “永不過期”,是指沒有設(shè)置過期時(shí)間,但是熱點(diǎn)數(shù)據(jù)快要過期時(shí),異步線程去更新和設(shè)置過期時(shí)間。

          3.5 緩存熱Key

          在Redis中,我們把訪問頻率高的key,稱為熱點(diǎn)key。如果某一熱點(diǎn)key的請(qǐng)求到服務(wù)器主機(jī)時(shí),由于請(qǐng)求量特別大,可能會(huì)導(dǎo)致主機(jī)資源不足,甚至宕機(jī),從而影響正常的服務(wù)。

          如何解決熱key問題?

          • Redis集群擴(kuò)容:增加分片副本,均衡讀流量;
          • 對(duì)熱key進(jìn)行hash散列,比如將一個(gè)key備份為key1,key2……keyN,同樣的數(shù)據(jù)N個(gè)備份,N個(gè)備份分布到不同分片,訪問時(shí)可隨機(jī)訪問N個(gè)備份中的一個(gè),進(jìn)一步分擔(dān)讀流量;
          • 使用二級(jí)緩存,即JVM本地緩存,減少Redis的讀請(qǐng)求。

          3.6 緩存容量內(nèi)存考慮

          3.6.1 評(píng)估容量,合理利用

          如果我們使用的是Redis,而Redis的內(nèi)存是比較昂貴的,我們不要什么數(shù)據(jù)都往Redis里面塞,一般Redis只緩存查詢比較頻繁的數(shù)據(jù)。同時(shí),我們要合理評(píng)估Redis的容量,也避免頻繁set覆蓋,導(dǎo)致設(shè)置了過期時(shí)間的key失效。

          如果我們使用的是本地緩存,如guava的本地緩存,也要評(píng)估下容量。避免容量不夠。

          3.6.2 Redis的八種內(nèi)存淘汰機(jī)制

          為了避免Redis內(nèi)存不夠用,Redis用8種內(nèi)存淘汰策略保護(hù)自己~

          • volatile-lru:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí),從設(shè)置了過期時(shí)間的key中使用LRU(最近最少使用)算法進(jìn)行淘汰;
          • allkeys-lru:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí),從所有key中使用LRU(最近最少使用)算法進(jìn)行淘汰。
          • volatile-lfu:4.0版本新增,當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí),在過期的key中,使用LFU算法進(jìn)行刪除key。
          • allkeys-lfu:4.0版本新增,當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí),從所有key中使用LFU算法進(jìn)行淘汰;
          • volatile-random:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí),從設(shè)置了過期時(shí)間的key中,隨機(jī)淘汰數(shù)據(jù);。
          • allkeys-random:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí),從所有key中隨機(jī)淘汰數(shù)據(jù)。
          • volatile-ttl:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí),在設(shè)置了過期時(shí)間的key中,根據(jù)過期時(shí)間進(jìn)行淘汰,越早過期的優(yōu)先被淘汰;
          • noeviction:默認(rèn)策略,當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí),新寫入操作會(huì)報(bào)錯(cuò)。

          3.6.3 不同的業(yè)務(wù)場(chǎng)景,Redis選擇適合的數(shù)據(jù)結(jié)構(gòu)

          • 排行榜適合用zset
          • 緩存用戶信息一般用hash
          • 消息隊(duì)列,文章列表適用用list
          • 用戶標(biāo)簽、社交需求一般用set
          • 計(jì)數(shù)器、分布式鎖等一般用String類型

          3.7 Redis一些有坑的命令

          1. 不能使用 keys指令
          2. 慎用O(n)復(fù)雜度命令,如hgetall等
          3. 慎用Redis的monitor命令
          4. 禁止使用flushall、flushdb
          5. 注意使用del命令

          最后

          本文總結(jié)了50多個(gè)減少bug的編碼注意點(diǎn),都是日常開發(fā)經(jīng)典的范例,希望對(duì)大家有幫助哈。

          長按進(jìn)入小程序,進(jìn)行打卡簽到

          小程序送書福利更新啦!

          (更多精彩值得期待……)

          最近熱文:
          假如你來發(fā)明編程語言
          互聯(lián)網(wǎng)公司部門鄙視鏈!
          一款神奇的極客工具,用了永無 Bug
          這個(gè)工具傳輸比QQ、微信還好用!
          PC微信逆向:破解聊天記錄文件!

          2T技術(shù)資源大放送!包括但不限于:C/C++,Linux,Python,Java,人工智能,考研,軟考,英語,等等。在公眾號(hào)內(nèi)回復(fù)「資源」,即可免費(fèi)獲??!回復(fù)「社群」,可以邀請(qǐng)你加入讀者群!


          跪求大家?guī)兔c(diǎn)個(gè)贊、在看、轉(zhuǎn)發(fā),感謝!

          瀏覽 63
          點(diǎn)贊
          評(píng)論
          收藏
          分享

          手機(jī)掃一掃分享

          分享
          舉報(bào)
          評(píng)論
          圖片
          表情
          推薦
          點(diǎn)贊
          評(píng)論
          收藏
          分享

          手機(jī)掃一掃分享

          分享
          舉報(bào)
          <kbd id="afajh"><form id="afajh"></form></kbd>
          <strong id="afajh"><dl id="afajh"></dl></strong>
            <del id="afajh"><form id="afajh"></form></del>
                1. <th id="afajh"><progress id="afajh"></progress></th>
                  <b id="afajh"><abbr id="afajh"></abbr></b>
                  <th id="afajh"><progress id="afajh"></progress></th>
                  亚洲高清无码播放 | 免费看黄片女生靠逼 | 影音先锋自拍偷拍 | 99国产精品99久久久久久 | 亚州无码中文字幕日韩AV |