<kbd id="afajh"><form id="afajh"></form></kbd>
<strong id="afajh"><dl id="afajh"></dl></strong>
    <del id="afajh"><form id="afajh"></form></del>
        1. <th id="afajh"><progress id="afajh"></progress></th>
          <b id="afajh"><abbr id="afajh"></abbr></b>
          <th id="afajh"><progress id="afajh"></progress></th>

          因為一條SQL,程序員差點被祭天......

          共 3232字,需瀏覽 7分鐘

           ·

          2021-01-30 23:13

          閱讀本文大概需要 5 分鐘。

          來自:鄙人薛某? ?作者:很懶的程序員

          上周四午休時分,我正在工位上小憩,睡夢中仿佛看到了自己拿著李白在榮耀峽谷里大殺四方的情景,就在我剛拿完五殺準備帶領(lǐng)隊友推對面水晶的時候,一句慌亂急促的“糟了”把我從睡夢中驚醒......

          ▍反常的 SQL 語句


          我瞇開朦朧的雙眼,才發(fā)現(xiàn)剛才的發(fā)聲來源于我的組長莊哥,看到他在緊張的點開日志系統(tǒng)查看日志,我預(yù)感到有什么不妙的事情發(fā)生。

          仔細一問才知道,原來就在我瞇眼的期間,線上數(shù)據(jù)庫服務(wù)器的 CPU 被打滿,同時觸發(fā)了生產(chǎn)數(shù)據(jù)庫只讀延遲的限定時間并且發(fā)出告警,而且告警的過程持續(xù)了半個小時。

          這讓我倒吸了一口涼氣,因為我們組做的系統(tǒng)很多都用的是同一個數(shù)據(jù)庫服務(wù)器,日用戶活躍量有好幾十萬,如果服務(wù)器崩潰了將會使所有的系統(tǒng)服務(wù)都不可用。

          于是我們趕緊通過 SQL 日志進行問題查找,最后排查出來是因為一張 SQL 的高量查詢沒有走索引導(dǎo)致。

          日志列表顯示,這條 SQL 語句的掃描行數(shù)達到了上百萬,基本就是全表掃描的情況,而且半個小時的時間查詢了達上萬次,每條 SQL 查詢的耗時都在 3000ms 以上。

          我的天啊,難怪服務(wù)器會 CPU 打滿,這么一條耗時的 SQL 語句查詢量這么大,數(shù)據(jù)庫的資源當然是直接就崩潰了。

          這是當時那條 SQL 的查詢情況:

          ▍臨時處理


          看了這條語句,我又倒吸一口涼氣,這不就是我寫的系統(tǒng)調(diào)用的 SQL 語句嗎?完了,這回逃不掉了,真是人在睡夢里,鍋從天上來。
          當然,因為是我自己寫的 SQL,所以我一看就知道這條語句是有問題的。

          根據(jù)我的代碼處理,這條 SQL 的調(diào)用還少了個重要的參數(shù) user_fruit_id,這個參數(shù)沒有傳的話是不應(yīng)該走這條 SQL 查詢的。

          在我的設(shè)計里,該參數(shù)是數(shù)據(jù)表里一個聯(lián)合索引的最左側(cè)字段,如果該字段沒有傳值的話,那么索引就不會生效了。
          KEY?`idx_userfruitid_type`?(`user_fruit_id`,`task_type`,`receive_start_time`,`receive_end_time`)?USING?BTREE

          雖然定位到了 SQL 語句,但是線上的問題刻不容緩,總不可能找出 Bug 改完再上線吧。

          所以,我們只能做了一個臨時處理,就是在原來的表上多加了一個聯(lián)合索引,其實就是去掉了 user_fruit_id 字段,讓這些高量的查詢都能走新的索引。

          就像下面這樣:
          KEY?`idx_task_type_receive_start_time`?(`task_type`,`receive_start_time`,`receive_end_time`,`created_time`)?USING?BTREE

          加上索引后,SQL 的掃描行數(shù)就大幅度的降低了,重啟實例后就又能正常運行了。


          ▍最左匹配原則


          那么為什么最左側(cè)的字段沒傳索引就不生效了,這是因為 MySQL 的聯(lián)合索引是基于“最左匹配原則”匹配的。

          我們都知道,索引的底層是 B+ 樹結(jié)構(gòu),聯(lián)合索引的結(jié)構(gòu)也是 B+ 樹,只不過鍵值數(shù)量不是一個,而是多個,構(gòu)建一顆 B+ 樹只能根據(jù)一個值來構(gòu)建,因此數(shù)據(jù)庫依據(jù)聯(lián)合索引最左的字段來構(gòu)建 B+ 樹。

          例如我們用兩個字段(name,age)這個聯(lián)合索引來分析:
          圖片來源于林曉斌老師的《MySQL 實戰(zhàn) 45 講》課程

          當我們在 where 條件中查找 name 為“張三”的所有記錄的時候,可以快速定位到 ID4,并且查出所有包含“張三”的記錄。

          而如果要查找“張三,10”這一條特定的數(shù)據(jù),就可以用 name = "張三" and age = 10?獲取。

          因為聯(lián)合索引的鍵值對是兩個,所以只要前面的 name 確定的情況下就可以進一步定位到具體的 age 記錄。

          但是如果你的查詢條件只有 age 的話,那么索引就不會生效,因為沒有匹配最左邊的字段,后面所有的索引字段都不會生效。

          所以我之前寫的 SQL 語句才會因為少了最左邊的 user_fruit_id 字段而走了全表掃描的查詢方式。

          正常來說,假設(shè)一個聯(lián)合索引設(shè)計成(a,b)這樣的結(jié)構(gòu)的話,那么用 a and b 作為條件,或者 a 單獨作為查詢條件都會走索引,這種情況下我們就不要再為 a 字段單獨設(shè)計索引了。

          但如果查詢條件里面只有 b 的語句,是無法使用(a,b)這個聯(lián)合索引的,這時候你不得不維護另外一個索引,也就是說你需要同時維護(a,b)、(b) 這兩個索引。


          ▍找出 Bug


          雖然臨時做了處理,但問題并不算解決,很明顯是系統(tǒng)出現(xiàn)了 Bug 才會有走這樣的查詢條件。

          因為是我自己寫的代碼,所以知道是哪條 SQL 后我就馬上定位到了代碼里的具體方法,后來才發(fā)現(xiàn)是因為我對 user_fruit_id 字段的判空處理不生效所致。

          因為該字段是從調(diào)用方傳過來的,所以我在方法參數(shù)里對該字段做了非空限制的注解,也就是 javax 包下的 @NotNull:
          public?class?GardenUserTaskListReq?implements?Serializable?{

          ????private?static?final?long?serialVersionUID?=?-9161295541482297498L;

          ????@ApiModelProperty(notes?=?"水果id")
          ????@NotNull(message?=?"水果id不能為空")
          ????private?Long?userFruitId;
          ????/**以下省略*/
          ????.....................
          }

          雖然加上該注解來做非空校驗,但我卻沒有在參數(shù)加上另一個注解 @Validated。

          該注解如果沒加上的話,那么調(diào)用 javax 包下的校驗規(guī)則就都不生效,正確的寫法是在 controller 層方法的參數(shù)前面加上注解:
          除此之外,因為 user_fruit_id 這個字段是另一張表的主鍵,我在代碼里也沒有對這張表是否存在這個 id 做查詢判斷。

          這樣一來,無論調(diào)用方傳什么值過來都會直接觸發(fā) SQL 查詢,并且在不跑索引的情況下直接走全表掃描。
          不得不說,這真是個低級錯誤,說真的,我對這個原因真是感到嘀笑皆非,再怎么說也工作幾年了,怎么還犯一些新手級別的錯誤呢,這臉打得真是讓我相當慚愧。


          ▍總結(jié)


          雖然是低級錯誤,但造成的后果也算挺嚴重了,這次事件也讓我更加的警醒,在以后的開發(fā)工作中必須要遵守該有的原則,大概有這么幾點:

          ①不能相信調(diào)用端。重要的參數(shù)都要先做驗證,即使是非空值也需要做驗證,不符合條件的就要直接返回或拋異常,不能參與業(yè)務(wù) SQL 的查詢,否則頻繁的訪問也會對服務(wù)造成負擔。

          ②SQL 語句要先做性能查詢。對于數(shù)據(jù)量大的表,建好索引后,所有的 SQL 查詢語句要用 explain 檢測性能,并且根據(jù)結(jié)果來進一步優(yōu)化索引。

          ③代碼必須要 Review。之前我沒有放太大的精力在代碼的 Review 上,雖說跟迭代排期的緊湊也有關(guān)系,但不管怎么說,Bug 確實是我的疏忽造成的,尤其是像空值這種細小的錯誤在 Java 里可以說家常便飯。

          千里之堤毀于蟻穴,有時一個小 Bug 很容易就引發(fā)整個系統(tǒng)的崩盤,這一次的問題也讓我更加深刻的認識到了 Review 代碼的重要性,不管業(yè)務(wù)開發(fā)的工作量有多麻煩,這一步操作絕對不能忽視。

          推薦閱讀:

          完全整理 | 365篇高質(zhì)技術(shù)文章目錄整理

          算法之美 : 棧和隊列

          主宰這個世界的10大算法

          徹底理解cookie、session、token

          淺談什么是遞歸算法

          專注服務(wù)器后臺技術(shù)棧知識總結(jié)分享

          歡迎關(guān)注交流共同進步

          瀏覽 55
          點贊
          評論
          收藏
          分享

          手機掃一掃分享

          分享
          舉報
          評論
          圖片
          表情
          推薦
          點贊
          評論
          收藏
          分享

          手機掃一掃分享

          分享
          舉報
          <kbd id="afajh"><form id="afajh"></form></kbd>
          <strong id="afajh"><dl id="afajh"></dl></strong>
            <del id="afajh"><form id="afajh"></form></del>
                1. <th id="afajh"><progress id="afajh"></progress></th>
                  <b id="afajh"><abbr id="afajh"></abbr></b>
                  <th id="afajh"><progress id="afajh"></progress></th>
                  一级做a爰片久久毛片A片 9 1? | 国产A片黄片 | 亚洲无 码A片在线观看APP | 2021高清无码 | 日韩人妻无码中文字幕 |