看完這篇還不會SQL優(yōu)化,算我輸。。。
關(guān)注我們,設(shè)為星標,每天7:30不見不散,架構(gòu)路上與您共享? 回復(fù)"架構(gòu)師"獲取資源
大家好,我是架構(gòu)君,一個會寫代碼吟詩的架構(gòu)師。
前言
本文主要針對的是關(guān)系型數(shù)據(jù)數(shù)據(jù)庫MySql。鍵值類數(shù)據(jù)庫可以參考:
https://www.jianshu.com/p/098a870d83e4
先簡單梳理下Mysql的基本概念,然后分創(chuàng)建時和查詢時這兩個階段的優(yōu)化展開。
1 基本概念簡述
1.1 邏輯架構(gòu)

第一層:客戶端通過連接服務(wù),將要執(zhí)行的sql指令傳輸過來
第二層:服務(wù)器解析并優(yōu)化sql,生成最終的執(zhí)行計劃并執(zhí)行
第三層:存儲引擎,負責(zé)數(shù)據(jù)的儲存和提取
1.2 鎖
數(shù)據(jù)庫通過鎖機制來解決并發(fā)場景-共享鎖(讀鎖)和排他鎖(寫鎖)。讀鎖是不阻塞的,多個客戶端可以在同一時刻讀取同一個資源。寫鎖是排他的,并且會阻塞其他的讀鎖和寫鎖。簡單提下樂觀鎖和悲觀鎖。
樂觀鎖,通常用于數(shù)據(jù)競爭不激烈的場景,多讀少寫,通過版本號和時間戳實現(xiàn)。
悲觀鎖,通常用于數(shù)據(jù)競爭激烈的場景,每次操作都會鎖定數(shù)據(jù)。
要鎖定數(shù)據(jù)需要一定的鎖策略來配合。
表鎖,鎖定整張表,開銷最小,但是會加劇鎖競爭。
行鎖,鎖定行級別,開銷最大,但是可以最大程度的支持并發(fā)。
但是MySql的存儲引擎的真實實現(xiàn)不是簡單的行級鎖,一般都是實現(xiàn)了多版本并發(fā)控制(MVCC)。MVCC是行級鎖的變種,多數(shù)情況下避免了加鎖操作,開銷更低。MVCC是通過保存數(shù)據(jù)的某個時間點快照實現(xiàn)的。
1.3 事務(wù)
事務(wù)保證一組原子性的操作,要么全部成功,要么全部失敗。一旦失敗,回滾之前的所有操作。MySql采用自動提交,如果不是顯式的開啟一個事務(wù),則每個查詢都作為一個事務(wù)。
隔離級別控制了一個事務(wù)中的修改,哪些在事務(wù)內(nèi)和事務(wù)間是可見的。四種常見的隔離級別:
未提交讀(Read UnCommitted),事務(wù)中的修改,即使沒提交對其他事務(wù)也是可見的。事務(wù)可能讀取未提交的數(shù)據(jù),造成臟讀。
提交讀(Read Committed),一個事務(wù)開始時,只能看見已提交的事務(wù)所做的修改。事務(wù)未提交之前,所做的修改對其他事務(wù)是不可見的。也叫不可重復(fù)讀,同一個事務(wù)多次讀取同樣記錄可能不同。
可重復(fù)讀(RepeatTable Read),同一個事務(wù)中多次讀取同樣的記錄結(jié)果時結(jié)果相同。
可串行化(Serializable),最高隔離級別,強制事務(wù)串行執(zhí)行。
1.4 存儲引擎
InnoDB引擎,最重要,使用最廣泛的存儲引擎。被用來設(shè)計處理大量短期事務(wù),具有高性能和自動崩潰恢復(fù)的特性。
MyISAM引擎,不支持事務(wù)和行級鎖,崩潰后無法安全恢復(fù)。
2 創(chuàng)建時優(yōu)化
2.1 Schema和數(shù)據(jù)類型優(yōu)化
整數(shù)
TinyInt,SmallInt,MediumInt,Int,BigInt 使用的存儲8,16,24,32,64位存儲空間。使用Unsigned表示不允許負數(shù),可以使正數(shù)的上線提高一倍。
實數(shù)
Float,Double , 支持近似的浮點運算。
Decimal,用于存儲精確的小數(shù)。
字符串
VarChar,存儲變長的字符串。需要1或2個額外的字節(jié)記錄字符串的長度。
Char,定長,適合存儲固定長度的字符串,如MD5值。
Blob,Text 為了存儲很大的數(shù)據(jù)而設(shè)計的。分別采用二進制和字符的方式。
時間類型
DateTime,保存大范圍的值,占8個字節(jié)。
TimeStamp,推薦,與UNIX時間戳相同,占4個字節(jié)。
優(yōu)化建議點
盡量使用對應(yīng)的數(shù)據(jù)類型。比如,不要用字符串類型保存時間,用整型保存IP。
選擇更小的數(shù)據(jù)類型。能用TinyInt不用Int。
標識列(identifier column),建議使用整型,不推薦字符串類型,占用更多空間,而且計算速度比整型慢。
不推薦ORM系統(tǒng)自動生成的Schema,通常具有不注重數(shù)據(jù)類型,使用很大的VarChar類型,索引利用不合理等問題。
真實場景混用范式和反范式。冗余高查詢效率高,插入更新效率低;冗余低插入更新效率高,查詢效率低。
創(chuàng)建完全的獨立的匯總表\緩存表,定時生成數(shù)據(jù),用于用戶耗時時間長的操作。對于精確度要求高的匯總操作,可以采用 歷史結(jié)果+最新記錄的結(jié)果 來達到快速查詢的目的。
數(shù)據(jù)遷移,表升級的過程中可以使用影子表的方式,通過修改原表的表名,達到保存歷史數(shù)據(jù),同時不影響新表使用的目的。
2.2 索引
索引包含一個或多個列的值。MySql只能高效的利用索引的最左前綴列。索引的優(yōu)勢:
減少查詢掃描的數(shù)據(jù)量
避免排序和零時表
將隨機IO變?yōu)轫樞騃O (順序IO的效率高于隨機IO)
B-Tree
使用最多的索引類型。采用B-Tree數(shù)據(jù)結(jié)構(gòu)來存儲數(shù)據(jù)(每個葉子節(jié)點都包含指向下一個葉子節(jié)點的指針,從而方便葉子節(jié)點的遍歷)。B-Tree索引適用于全鍵值,鍵值范圍,鍵前綴查找,支持排序。
B-Tree索引限制:
如果不是按照索引的最左列開始查詢,則無法使用索引。
不能跳過索引中的列。如果使用第一列和第三列索引,則只能使用第一列索引。
如果查詢中有個范圍查詢,則其右邊的所有列都無法使用索引優(yōu)化查詢。
哈希索引
只有精確匹配索引的所有列,查詢才有效。存儲引擎會對所有的索引列計算一個哈希碼,哈希索引將所有的哈希碼存儲在索引中,并保存指向每個數(shù)據(jù)行的指針。更多面試題,歡迎關(guān)注公眾號 Java面試題精選
哈希索引限制:
無法用于排序
不支持部分匹配
只支持等值查詢?nèi)?,IN(),不支持 < >
優(yōu)化建議點
注意每種索引的適用范圍和適用限制。
索引的列如果是表達式的一部分或者是函數(shù)的參數(shù),則失效。
針對特別長的字符串,可以使用前綴索引,根據(jù)索引的選擇性選擇合適的前綴長度。
使用多列索引的時候,可以通過 AND 和 OR 語法連接。
重復(fù)索引沒必要,如(A,B)和(A)重復(fù)。
索引在where條件查詢和group by語法查詢的時候特別有效。
將范圍查詢放在條件查詢的最后,防止范圍查詢導(dǎo)致的右邊索引失效的問題。
索引最好不要選擇過長的字符串,而且索引列也不宜為null。
3 查詢時優(yōu)化
3.1 查詢質(zhì)量的三個重要指標
響應(yīng)時間 (服務(wù)時間,排隊時間)
掃描的行
返回的行
3.2 查詢優(yōu)化點
避免查詢無關(guān)的列,如使用Select * 返回所有的列。
避免查詢無關(guān)的行
切分查詢。將一個對服務(wù)器壓力較大的任務(wù),分解到一個較長的時間中,并分多次執(zhí)行。如要刪除一萬條數(shù)據(jù),可以分10次執(zhí)行,每次執(zhí)行完成后暫停一段時間,再繼續(xù)執(zhí)行。過程中可以釋放服務(wù)器資源給其他任務(wù)。
分解關(guān)聯(lián)查詢。將多表關(guān)聯(lián)查詢的一次查詢,分解成對單表的多次查詢。可以減少鎖競爭,查詢本身的查詢效率也比較高。因為MySql的連接和斷開都是輕量級的操作,不會由于查詢拆分為多次,造成效率問題。
注意count的操作只能統(tǒng)計不為null的列,所以統(tǒng)計總的行數(shù)使用count(*)。
group by 按照標識列分組效率高,分組結(jié)果不宜出行分組列之外的列。
關(guān)聯(lián)查詢延遲關(guān)聯(lián),可以根據(jù)查詢條件先縮小各自要查詢的范圍,再關(guān)聯(lián)。
Limit分頁優(yōu)化。可以根據(jù)索引覆蓋掃描,再根據(jù)索引列關(guān)聯(lián)自身查詢其他列。如
SELECT
?id,
?NAME,
?age
WHERE
?student?s1
INNER?JOIN?(
?SELECT
?????id
?FROM
?????student
?ORDER?BY
?????age
?LIMIT?50,5
)?AS?s2?ON?s1.id?=?s2.id
Union查詢默認去重,如果不是業(yè)務(wù)必須,建議使用效率更高的Union All
補充內(nèi)容
來自大神-小寶
1.條件中的字段類型和表結(jié)構(gòu)類型不一致,mysql會自動加轉(zhuǎn)換函數(shù),導(dǎo)致索引作為函數(shù)中的參數(shù)失效。
2.like查詢前面部分未輸入,以%開頭無法命中索引。
3.補充2個5.7版本的新特性:
generated column,就是數(shù)據(jù)庫中這一列由其他列計算而得
CREATE?TABLE?triangle?(sidea?DOUBLE,?sideb?DOUBLE,?area?DOUBLE?AS?(sidea?*?sideb?/?2));
insert?into?triangle(sidea,?sideb)?values(3,?4);
select?*?from?triangle;
+-------+-------+------+
|?sidea?|?sideb?|?area?|
+-------+-------+------+
|???3??????|???4??????|??6?????|
+-------+-------+------+
支持JSON格式數(shù)據(jù),并提供相關(guān)內(nèi)置函數(shù)
CREATE?TABLE?json_test?(name?JSON);
INSERT?INTO?json_test?VALUES('{"name1":?"value1",?"name2":?"value2"}');
SELECT?*?FROM?json_test?WHERE?JSON_CONTAINS(name,?'$.name1');
來自JVM專家-達
關(guān)注explain在性能分析中的使用
EXPLAIN?SELECT?settleId?FROM?Settle?WHERE?settleId?=?"3679"

select_type,有幾種值:simple(表示簡單的select,沒有union和子查詢),primary(有子查詢,最外面的select查詢就是primary),union(union中的第二個或隨后的select查詢,不依賴外部查詢結(jié)果),dependent union(union中的第二個或隨后的select查詢,依賴外部查詢結(jié)果)
type,有幾種值:system(表僅有一行(=系統(tǒng)表),這是const連接類型的一個特例),const(常量查詢), ref(非唯一索引訪問,只有普通索引),eq_ref(使用唯一索引或組件查詢),all(全表查詢),index(根據(jù)索引查詢?nèi)恚瑀ange(范圍查詢)
possible_keys: 表中可能幫助查詢的索引
key,選擇使用的索引
key_len,使用的索引長度
rows,掃描的行數(shù),越大越不好
extra,有幾種值:Only index(信息從索引中檢索出,比掃描表快),where used(使用where限制),Using filesort (可能在內(nèi)存或磁盤排序),Using temporary(對查詢結(jié)果排序時使用臨時表)
文章來源:https://juejin.im/post/59b11ba151882538cb1ecbd0
到此文章就結(jié)束了。如果今天的文章對你在進階架構(gòu)師的路上有新的啟發(fā)和進步,歡迎轉(zhuǎn)發(fā)給更多人。歡迎加入架構(gòu)師社區(qū)技術(shù)交流群,眾多大咖帶你進階架構(gòu)師,在后臺回復(fù)“加群”即可入群。
這些年小編給你分享過的干貨
1.優(yōu)質(zhì)SpringBoot物流管理項目(附源碼)
2.優(yōu)質(zhì)ERP系統(tǒng)帶進銷存財務(wù)生產(chǎn)功能(附源碼)
3.優(yōu)質(zhì)SpringBoot帶工作流管理項目(附源碼)
5.SBoot+Vue外賣系統(tǒng)前后端都有(附源碼)
轉(zhuǎn)發(fā)在看就是最大的支持??

