互聯(lián)網(wǎng)/程序員/技術(shù)/資料共享?
InnoDB一棵B+樹可以存放多少行數(shù)據(jù)?這個(gè)問題的簡(jiǎn)單回答是:約2千萬(wàn)。為什么是這么多呢?因?yàn)檫@是可以算出來(lái)的,要搞清楚這個(gè)問題,我們先從InnoDB索引數(shù)據(jù)結(jié)構(gòu)、數(shù)據(jù)組織方式說(shuō)起。我們都知道計(jì)算機(jī)在存儲(chǔ)數(shù)據(jù)的時(shí)候,有最小存儲(chǔ)單元,這就好比我們今天進(jìn)行現(xiàn)金的流通最小單位是一毛。在計(jì)算機(jī)中磁盤存儲(chǔ)數(shù)據(jù)最小單元是扇區(qū),一個(gè)扇區(qū)的大小是512字節(jié),而文件系統(tǒng)(例如XFS/EXT4)他的最小單元是塊,一個(gè)塊的大小是4k,而對(duì)于我們的InnoDB存儲(chǔ)引擎也有自己的最小儲(chǔ)存單元——頁(yè)(Page),一個(gè)頁(yè)的大小是16K。文件系統(tǒng)中一個(gè)文件大小只有1個(gè)字節(jié),但不得不占磁盤上4KB的空間。innodb的所有數(shù)據(jù)文件(后綴為ibd的文件),他的大小始終都是16384(16k)的整數(shù)倍。磁盤扇區(qū)、文件系統(tǒng)、InnoDB存儲(chǔ)引擎都有各自的最小存儲(chǔ)單元。在MySQL中我們的InnoDB頁(yè)的大小默認(rèn)是16k,當(dāng)然也可以通過參數(shù)設(shè)置:mysql> show variables like 'innodb_page_size';
+------------------+-------+
| Variable_name ? | Value |
+------------------+-------+
| innodb_page_size | 16384 |
+------------------+-------+
1 row in set (0.00 sec)
數(shù)據(jù)表中的數(shù)據(jù)都是存儲(chǔ)在頁(yè)中的,所以一個(gè)頁(yè)中能存儲(chǔ)多少行數(shù)據(jù)呢?假設(shè)一行數(shù)據(jù)的大小是1k,那么一個(gè)頁(yè)可以存放16行這樣的數(shù)據(jù)。如果數(shù)據(jù)庫(kù)只按這樣的方式存儲(chǔ),那么如何查找數(shù)據(jù)就成為一個(gè)問題,因?yàn)槲覀儾恢酪檎业臄?shù)據(jù)存在哪個(gè)頁(yè)中,也不可能把所有的頁(yè)遍歷一遍,那樣太慢了。所以人們想了一個(gè)辦法,用B+樹的方式組織這些數(shù)據(jù)。如圖所示:我們先將數(shù)據(jù)記錄按主鍵進(jìn)行排序,分別存放在不同的頁(yè)中(為了便于理解我們這里一個(gè)頁(yè)中只存放3條記錄,實(shí)際情況可以存放很多),除了存放數(shù)據(jù)的頁(yè)以外,還有存放鍵值+指針的頁(yè),如圖中page number=3的頁(yè),該頁(yè)存放鍵值和指向數(shù)據(jù)頁(yè)的指針,這樣的頁(yè)由N個(gè)鍵值+指針組成。當(dāng)然它也是排好序的。這樣的數(shù)據(jù)組織形式,我們稱為索引組織表。現(xiàn)在來(lái)看下,要查找一條數(shù)據(jù),怎么查?如select * from user where id=5;這里id是主鍵,我們通過這棵B+樹來(lái)查找,首先找到根頁(yè),你怎么知道user表的根頁(yè)在哪呢?其實(shí)每張表的根頁(yè)位置在表空間文件中是固定的,即page number=3的頁(yè)(這點(diǎn)我們下文還會(huì)進(jìn)一步證明),找到根頁(yè)后通過二分查找法,定位到id=5的數(shù)據(jù)應(yīng)該在指針P5指向的頁(yè)中,那么進(jìn)一步去page number=5的頁(yè)中查找,同樣通過二分查詢法即可找到id=5的記錄:現(xiàn)在我們清楚了InnoDB中主鍵索引B+樹是如何組織數(shù)據(jù)、查詢數(shù)據(jù)的,我們總結(jié)一下:InnoDB存儲(chǔ)引擎的最小存儲(chǔ)單元是頁(yè),頁(yè)可以用于存放數(shù)據(jù)也可以用于存放鍵值+指針,在B+樹中葉子節(jié)點(diǎn)存放數(shù)據(jù),非葉子節(jié)點(diǎn)存放鍵值+指針。
索引組織表通過非葉子節(jié)點(diǎn)的二分查找法以及指針確定數(shù)據(jù)在哪個(gè)頁(yè)中,進(jìn)而在去數(shù)據(jù)頁(yè)中查找到需要的數(shù)據(jù);
那么回到我們開始的問題,通常一棵B+樹可以存放多少行數(shù)據(jù)?這里我們先假設(shè)B+樹高為2,即存在一個(gè)根節(jié)點(diǎn)和若干個(gè)葉子節(jié)點(diǎn),那么這棵B+樹的存放總記錄數(shù)為:根節(jié)點(diǎn)指針數(shù)*單個(gè)葉子節(jié)點(diǎn)記錄行數(shù)。上文我們已經(jīng)說(shuō)明單個(gè)葉子節(jié)點(diǎn)(頁(yè))中的記錄數(shù)=16K/1K=16。(這里假設(shè)一行記錄的數(shù)據(jù)大小為1k,實(shí)際上現(xiàn)在很多互聯(lián)網(wǎng)業(yè)務(wù)數(shù)據(jù)記錄大小通常就是1K左右)。那么現(xiàn)在我們需要計(jì)算出非葉子節(jié)點(diǎn)能存放多少指針,其實(shí)這也很好算,我們假設(shè)主鍵ID為bigint類型,長(zhǎng)度為8字節(jié),而指針大小在InnoDB源碼中設(shè)置為6字節(jié),這樣一共14字節(jié),我們一個(gè)頁(yè)中能存放多少這樣的單元,其實(shí)就代表有多少指針,即16384/14=1170。那么可以算出一棵高度為2的B+樹,能存放1170*16=18720條這樣的數(shù)據(jù)記錄。根據(jù)同樣的原理我們可以算出一個(gè)高度為3的B+樹可以存放:1170117016=21902400條這樣的記錄。所以在InnoDB中B+樹高度一般為1-3層,它就能滿足千萬(wàn)級(jí)的數(shù)據(jù)存儲(chǔ)。在查找數(shù)據(jù)時(shí)一次頁(yè)的查找代表一次IO,所以通過主鍵索引查詢通常只需要1-3次IO操作即可查找到數(shù)據(jù)。怎么得到InnoDB主鍵索引B+樹的高度?
上面我們通過推斷得出B+樹的高度通常是1-3,下面我們從另外一個(gè)側(cè)面證明這個(gè)結(jié)論。在InnoDB的表空間文件中,約定page number為3的代表主鍵索引的根頁(yè),而在根頁(yè)偏移量為64的地方存放了該B+樹的page level。如果page level為1,樹高為2,page level為2,則樹高為3。即B+樹的高度=page level+1;下面我們將從實(shí)際環(huán)境中嘗試找到這個(gè)page level。在實(shí)際操作之前,你可以通過InnoDB元數(shù)據(jù)表確認(rèn)主鍵索引根頁(yè)的page number為3,你也可以從《InnoDB存儲(chǔ)引擎》這本書中得到確認(rèn)。SELECT
b.name, a.name, index_id, type, a.space, a.PAGE_NO
FROM
information_schema.INNODB_SYS_INDEXES a,
information_schema.INNODB_SYS_TABLES b
WHERE
a.table_id = b.table_id AND a.space <> 0;
可以看出數(shù)據(jù)庫(kù)dbt3下的customer表、lineitem表主鍵索引根頁(yè)的page number均為3,而其他的二級(jí)索引page number為4。關(guān)于二級(jí)索引與主鍵索引的區(qū)別請(qǐng)參考MySQL相關(guān)書籍,本文不在此介紹。下面我們對(duì)數(shù)據(jù)庫(kù)表空間文件做相關(guān)的解析:因?yàn)橹麈I索引B+樹的根頁(yè)在整個(gè)表空間文件中的第3個(gè)頁(yè)開始,所以可以算出它在文件中的偏移量:16384*3=49152(16384為頁(yè)大小)。另外根據(jù)《InnoDB存儲(chǔ)引擎》中描述在根頁(yè)的64偏移量位置前2個(gè)字節(jié),保存了page level的值,因此我們想要的page level的值在整個(gè)文件中的偏移量為:16384*3+64=49152+64=49216,前2個(gè)字節(jié)中。接下來(lái)我們用hexdump工具,查看表空間文件指定偏移量上的數(shù)據(jù):linetem表的page level為2,B+樹高度為page level+1=3;region表的page level為0,B+樹高度為page level+1=1;customer表的page level為2,B+樹高度為page level+1=3;lineitem表的數(shù)據(jù)行數(shù)為600多萬(wàn),B+樹高度為3,customer表數(shù)據(jù)行數(shù)只有15萬(wàn),B+樹高度也為3。可以看出盡管數(shù)據(jù)量差異較大,這兩個(gè)表樹的高度都是3,換句話說(shuō)這兩個(gè)表通過索引查詢效率并沒有太大差異,因?yàn)槎贾恍枰?次IO。那么如果有一張表行數(shù)是一千萬(wàn),那么他的B+樹高度依舊是3,查詢效率仍然不會(huì)相差太大。region表只有5行數(shù)據(jù),當(dāng)然他的B+樹高度為1。最后回顧一道面試題
有一道MySQL的面試題,為什么MySQL的索引要使用B+樹而不是其它樹形結(jié)構(gòu)?比如B樹?現(xiàn)在這個(gè)問題的復(fù)雜版本可以參考本文;因?yàn)锽樹不管葉子節(jié)點(diǎn)還是非葉子節(jié)點(diǎn),都會(huì)保存數(shù)據(jù),這樣導(dǎo)致在非葉子節(jié)點(diǎn)中能保存的指針數(shù)量變少(有些資料也稱為扇出),指針少的情況下要保存大量數(shù)據(jù),只能增加樹的高度,導(dǎo)致IO操作變多,查詢性能變低;小結(jié)
本文從一個(gè)問題出發(fā),逐步介紹了InnoDB索引組織表的原理、查詢方式,并結(jié)合已有知識(shí),回答該問題,結(jié)合實(shí)踐來(lái)證明。當(dāng)然為了表述簡(jiǎn)單易懂,文中忽略了一些細(xì)枝末節(jié),比如一個(gè)頁(yè)中不可能所有空間都用于存放數(shù)據(jù),它還會(huì)存放一些少量的其他字段比如page level,index number等等,另外還有頁(yè)的填充因子也導(dǎo)致一個(gè)頁(yè)不可能全部用于保存數(shù)據(jù)。關(guān)于二級(jí)索引數(shù)據(jù)存取方式可以參考MySQL相關(guān)書籍,他的要點(diǎn)是結(jié)合主鍵索引進(jìn)行回表查詢。推薦閱讀:
中國(guó)抓到了勒索病毒作者!!
講一下TCP/IP的二三事
5T技術(shù)資源大放送!包括但不限于:C/C++,Linux,Python,Java,PHP,人工智能,單片機(jī),樹莓派,等等。在公眾號(hào)內(nèi)回復(fù)「2048」,即可免費(fèi)獲取!!微信掃描二維碼,關(guān)注我的公眾號(hào)
朕已閱?